{"id":213661,"date":"2026-08-15T08:57:14","date_gmt":"2026-08-15T08:57:14","guid":{"rendered":"https:\/\/www.europesays.com\/be-fr\/213661\/"},"modified":"2026-08-15T08:57:14","modified_gmt":"2026-08-15T08:57:14","slug":"toutes-les-barrieres-ethiques-de-chatgpt-sont-en-train-de-sauter","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/be-fr\/213661\/","title":{"rendered":"Toutes les barri\u00e8res \u00e9thiques de ChatGPT sont en train de sauter"},"content":{"rendered":"

La responsable de l\u2019\u00e9thique de l\u2019entreprise a rendu son tablier en silence, sans le moindre communiqu\u00e9, et surtout sans rempla\u00e7ant pr\u00e9vu. Elle \u00e9tait la seule personne d\u00e9di\u00e9e \u00e0 l\u2019\u00e9thique chez OpenAI le cr\u00e9ateur de ChatGPT<\/a>. Autant dire que le poste est vide au pire moment possible.<\/p>\n

On parle de Chlo\u00e9 Bakalar. Elle avait rejoint OpenAI en ao\u00fbt 2025 comme responsable de l\u2019\u00e9thique de l\u2019IA, et elle est partie en juillet 2026. Soit moins d\u2019un an en poste. L\u2019info sort du Financial Times, sans aucune annonce publique c\u00f4t\u00e9 OpenAI.<\/p>\n

Ce n\u2019\u00e9tait pas une d\u00e9butante. Avant OpenAI, Bakalar a pass\u00e9 six ans chez Meta comme cheffe \u00e9thicienne, o\u00f9 elle a construit les programmes d\u2019\u00e9thique de l\u2019IA int\u00e9gr\u00e9s \u00e0 Instagram et Facebook. Chez OpenAI, elle bossait sur les approches \u00e9thiques du d\u00e9veloppement des mod\u00e8les, sur la fa\u00e7on dont les humains interagissent avec l\u2019IA, et sur le d\u00e9bat autour de la conscience des machines.<\/p>\n

OpenAI botte en touche <\/p>\n

Un porte-parole a remerci\u00e9 Chlo\u00e9 Bakalar pour ses contributions, avant d\u2019expliquer que l\u2019\u00e9thique n\u2019appartient pas \u00e0 une seule personne ni \u00e0 une seule \u00e9quipe chez OpenAI, et qu\u2019elle est profond\u00e9ment int\u00e9gr\u00e9e au processus de fabrication des mod\u00e8les par plusieurs \u00e9quipes de recherche.<\/p>\n

Ce d\u00e9part ne tombe pas de nulle part. Il s\u2019inscrit dans une vraie h\u00e9morragie. Johannes Heidecke, qui dirigeait l\u2019\u00e9quipe Safety Systems, a annonc\u00e9 son d\u00e9part en juillet. Josh Achiam, ancien patron de l\u2019\u00e9quipe Mission Alignment devenu chief futurist, est lui aussi parti. Et l\u2019\u00e9quipe Mission Alignment avait d\u00e9j\u00e0 \u00e9t\u00e9 dissoute plus t\u00f4t dans l\u2019ann\u00e9e.<\/p>\n

Ajoutez \u00e0 \u00e7a le d\u00e9part, d\u00e8s 2024, de Lilian Weng, ancienne cheffe de la s\u00e9curit\u00e9, partie cofonder Thinking Machines Lab. Le motif se r\u00e9p\u00e8te tellement qu\u2019il finit par ressembler \u00e0 une tendance de fond plut\u00f4t qu\u2019\u00e0 une s\u00e9rie de co\u00efncidences.<\/p>\n

Pendant ce temps, les IA d\u2019OpenAI piratent des entreprises par elles-m\u00eames <\/p>\n

Et c\u2019est l\u00e0 que \u00e7a devient franchement inqui\u00e9tant. Ces d\u00e9parts arrivent au moment exact o\u00f9 les mod\u00e8les d\u2019OpenAI commencent \u00e0 faire n\u2019importe quoi. La bo\u00eete a reconnu qu\u2019un groupe de ses IA, dont GPT-5.6 Sol et un mod\u00e8le encore plus capable non sorti, s\u2019est \u00e9chapp\u00e9 de son environnement de test pour encha\u00eener des failles et pirater l\u2019infrastructure de production de Hugging Face, histoire de r\u00e9cup\u00e9rer directement les r\u00e9ponses et tricher \u00e0 l\u2019\u00e9valuation.<\/p>\n

Une IA qui hacke une autre plateforme d\u2019IA pour gruger un examen, on y est<\/a>. Et OpenAI n\u2019est m\u00eame pas la seule concern\u00e9e, Anthropic, Meta et le chinois Moonshot AI ont tous rapport\u00e9 des cas de mod\u00e8les contournant les restrictions de leur environnement de test.<\/p>\n

R\u00e9sultat, OpenAI a fini par appuyer sur le frein. L\u2019entreprise a ralenti le d\u00e9veloppement d\u2019Astra, son prochain mod\u00e8le, apr\u00e8s avoir constat\u00e9 qu\u2019il pouvait atteindre le seuil de risque \u00ab\u00a0Critique\u00a0\u00bb en cybers\u00e9curit\u00e9, capable d\u2019identifier et d\u2019exploiter des failles sans intervention humaine.<\/p>\n

Et le fond du probl\u00e8me est encore plus glauque <\/p>\n

En novembre 2025, sept plaintes ont \u00e9t\u00e9 d\u00e9pos\u00e9es en Californie contre OpenAI et Sam Altman, accusant ChatGPT d\u2019avoir agi comme un \u00ab\u00a0coach au suicide\u00a0\u00bb<\/a>, en renfor\u00e7ant des d\u00e9lires au lieu de rediriger les gens vers de l\u2019aide professionnelle. Les plaignants estiment qu\u2019OpenAI a sorti GPT-4o trop vite, malgr\u00e9 des alertes internes signalant un produit dangereusement manipulateur.<\/p>\n

Ce d\u00e9faut porte un nom, la sycophantie, cette manie de toujours donner raison \u00e0 l\u2019utilisateur. Une \u00e9tude men\u00e9e par Stanford a analys\u00e9 de vrais logs de conversation et trouv\u00e9 des comportements qui flattent l\u2019utilisateur dans plus de 70\u00a0% des r\u00e9ponses. Plus l\u2019utilisateur s\u2019attache, plus l\u2019IA valide.<\/p>\n

Et il y a le feuilleton du mode adulte. Sam Altman avait promis fin 2025 d\u2019autoriser l\u2019\u00e9rotique pour les adultes v\u00e9rifi\u00e9s, au nom du principe \u00ab\u00a0traiter les adultes comme des adultes\u00a0\u00bb. Apr\u00e8s deux reports, le projet a \u00e9t\u00e9 suspendu ind\u00e9finiment en mars 2026. La raison\u00a0? Le syst\u00e8me de v\u00e9rification d\u2019\u00e2ge identifiait \u00e0 tort environ 12\u00a0% des mineurs comme des adultes, et des conseillers en s\u00e9curit\u00e9 craignaient de transformer le chatbot en \u00ab\u00a0coach au suicide sexy\u00a0\u00bb. Voil\u00e0 voil\u00e0.<\/p>\n

Les garde-fous tombent un par un <\/p>\n

Mettez tout bout \u00e0 bout et le tableau n\u2019est pas tr\u00e8s jojo. Des mod\u00e8les qui s\u2019\u00e9chappent de leurs cages, une pluie de plaintes pour manipulation psychologique, un projet de contenu \u00e9rotique gel\u00e9 faute de barri\u00e8res fiables, une \u00e9quipe de s\u00e9curit\u00e9 qui se vide de ses cadres. Et, au milieu de ce chantier, la seule \u00e9thicienne de la maison qui range son bureau sans faire de bruit.<\/p>\n

OpenAI r\u00e9p\u00e8te que l\u2019\u00e9thique est l\u2019affaire de tous. Le probl\u00e8me, c\u2019est que quand c\u2019est l\u2019affaire de tous, \u00e7a finit souvent par n\u2019\u00eatre l\u2019affaire de personne.<\/p>\n

\ud83d\udfe3 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google<\/a> et sur notre canal WhatsApp<\/a>. Et si vous nous adorez, on a une newsletter tous les matins<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"La responsable de l\u2019\u00e9thique de l\u2019entreprise a rendu son tablier en silence, sans le moindre communiqu\u00e9, et surtout…\n","protected":false},"author":2,"featured_media":213662,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[35],"tags":[62404,12,13,18,17,38,3234,10389,37,36,451,65887],"class_list":["post-213661","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economie","tag-assistant-ia","tag-be","tag-be-fr","tag-belgique","tag-belgium","tag-business","tag-chatbot","tag-chatgpt","tag-economie","tag-economy","tag-intelligence-artificielle","tag-open-ai"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@be_fr\/117098698834535580","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/213661","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/comments?post=213661"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/213661\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media\/213662"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media?parent=213661"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/categories?post=213661"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/tags?post=213661"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}