{"id":245006,"date":"2026-09-09T08:20:14","date_gmt":"2026-09-09T08:20:14","guid":{"rendered":"https:\/\/www.europesays.com\/be-fr\/245006\/"},"modified":"2026-09-09T08:20:14","modified_gmt":"2026-09-09T08:20:14","slug":"ils-croient-sincerement-que-lia-pourrait-tous-nous-tuer-lalerte-inquietante-dun-chercheur-qui-quitte-anthropic-apres-openai","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/be-fr\/245006\/","title":{"rendered":"\u00ab\u00a0Ils croient sinc\u00e8rement que l’IA pourrait tous nous tuer\u00a0\u00bb : l’alerte inqui\u00e9tante d’un chercheur qui quitte Anthropic apr\u00e8s OpenAI"},"content":{"rendered":"

\u00ab\u00a0Aucune des deux entreprises n’agit de mani\u00e8re responsable. Elles foncent tout droit vers une superintelligence capable de s’am\u00e9liorer elle-m\u00eame et jouent avec nos vies\u00a0\u00bb, a-t-il \u00e9crit mardi sur X.<\/p>\n

\u00ab\u00a0Les gens qui construisent l’IA croient sinc\u00e8rement qu’elle pourrait tous nous tuer d’ici la fin de la d\u00e9cennie. Ce n’est pas un coup marketing\u00a0\u00bb, a-t-il ajout\u00e9.<\/p>\n

Un responsable de la s\u00fbret\u00e9 d’Anthropic, Evan Hubinger, lui a donn\u00e9 raison sur X : \u00ab\u00a0Nous croyons vraiment sinc\u00e8rement que l’IA pourrait tuer tous les humains\u00a0\u00bb, a-t-il \u00e9crit, estimant \u00e0 titre personnel ce risque \u00e0 \u00ab\u00a0plus de 10%\u00a0\u00bb dans la d\u00e9cennie.<\/p>\n

Pourquoi l’IA d’Anthropic inqui\u00e8te autant qu’elle s\u00e9duit : \u00ab\u00a0Ils ont donn\u00e9 \u00e0 Claude des mains et des jambes\u00a0\u00bb<\/a><\/p>\n

Il a ajout\u00e9 qu’Anthropic faisait \u00ab\u00a0de son mieux\u00a0\u00bb mais n’avait \u00ab\u00a0pas encore de plan\u00a0\u00bb pour s’assurer qu’une IA surpassant des capacit\u00e9s humaines ob\u00e9isse encore \u00e0 ses concepteurs, tout en jugeant \u00ab\u00a0faible\u00a0\u00bb le risque pos\u00e9 par les mod\u00e8les actuels.<\/p>\n

La d\u00e9mission de Jacob Coxon intervient alors qu’Anthropic pr\u00e9pare une entr\u00e9e en Bourse g\u00e9ante, apr\u00e8s un \u00e9t\u00e9 marqu\u00e9 par des piratages men\u00e9s, sans autorisation, par des outils d’IA en test de plusieurs laboratoires.<\/p>\n

Sollicit\u00e9es par l’AFP, les deux entreprises n’avaient pas r\u00e9agi imm\u00e9diatement.<\/p>\n

\u00ab\u00a0Auto-am\u00e9lioration r\u00e9cursive\u00a0\u00bb<\/p>\n

Les champions de l’IA disent voir approcher le stade de \u00ab\u00a0l’auto-am\u00e9lioration r\u00e9cursive\u00a0\u00bb, au-del\u00e0 duquel un mod\u00e8le concevrait seul son successeur, hors de tout contr\u00f4le humain<\/p>\n

Selon M. Coxon, ses coll\u00e8gues emploient les termes \u00ab\u00a0crunchtime\u00a0\u00bb (moment d\u00e9cisif) et \u00ab\u00a0endgame\u00a0\u00bb (fin de partie) pour d\u00e9crire cette trajectoire.<\/p>\n

Il juge sinc\u00e8res les efforts d’Anthropic, mais estime qu’aucune entreprise ne peut d\u00e9velopper de mani\u00e8re responsable une IA surpassant les humains sans l’intervention des Etats ou un ralentissement coordonn\u00e9.<\/p>\n

\u00ab\u00a0Chez Anthropic, les enjeux sont bien compris, mais ils sont enferm\u00e9s dans une course pour y parvenir les premiers: ils pensent que personne d’autre n’agira de fa\u00e7on responsable, donc qu’ils doivent le faire eux-m\u00eames, malgr\u00e9 le risque\u00a0\u00bb, a-t-il \u00e9crit.<\/p>\n

En f\u00e9vrier, Anthropic a retir\u00e9 de sa charte de s\u00fbret\u00e9 l’engagement de suspendre le d\u00e9veloppement de ses mod\u00e8les si elle ne parvenait pas \u00e0 en ma\u00eetriser les risques. Au motif qu’une pause unilat\u00e9rale laisserait les acteurs les moins prudents dominer la comp\u00e9tition, sans contre-pouvoirs.<\/p>\n

ChatGPT, Claude, Gemini ou m\u00eame Grok : quelle IA m\u00e9rite vraiment son abonnement ?<\/a><\/p>\n

Fin juillet, plus d’un millier d’employ\u00e9s du secteur, dont le patron d’Anthropic Dario Amodei, ont demand\u00e9 \u00e0 Washington de pr\u00e9parer un m\u00e9canisme de freinage. OpenAI a suspendu deux semaines en ao\u00fbt une partie de ses entra\u00eenements et Anthropic a appel\u00e9 l’industrie \u00e0 adopter \u00ab\u00a0d\u00e8s que possible\u00a0\u00bb un m\u00e9canisme \u00ab\u00a0v\u00e9rifiable\u00a0\u00bb de ralentissement coordonn\u00e9.<\/p>\n

Dimanche, le chef scientifique d’OpenAI, Jakub Pachocki, a \u00e9crit que \u00ab\u00a0le moment actuel exige une extr\u00eame prudence\u00a0\u00bb et que la coordination internationale devait devenir \u00ab\u00a0une priorit\u00e9 absolue\u00a0\u00bb des gouvernements.<\/p>\n

Aucune loi f\u00e9d\u00e9rale n’encadre ces mod\u00e8les aux Etats-Unis, o\u00f9 l’administration Trump privil\u00e9gie une approche l\u00e9g\u00e8re. Le s\u00e9nateur Bernie Sanders et l’\u00e9lu d\u00e9mocrate Greg Casar ont d\u00e9pos\u00e9 d\u00e9but septembre une proposition de loi visant \u00e0 suspendre le d\u00e9veloppement jusqu’\u00e0 la cr\u00e9ation d’un r\u00e9gulateur.<\/p>\n","protected":false},"excerpt":{"rendered":"\u00ab\u00a0Aucune des deux entreprises n’agit de mani\u00e8re responsable. Elles foncent tout droit vers une superintelligence capable de s’am\u00e9liorer…\n","protected":false},"author":2,"featured_media":245007,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[35],"tags":[12,13,18,17,26168,38,7394,596,13064,34,37,36,76584,506,1691,76],"class_list":["post-245006","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economie","tag-be","tag-be-fr","tag-belgique","tag-belgium","tag-bernie-sanders","tag-business","tag-cybercriminalite","tag-cybersecurite","tag-dario-amodei","tag-donald-trump","tag-economie","tag-economy","tag-greg-casar","tag-ia","tag-informatique","tag-technologies"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@be_fr\/117240111191697199","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/245006","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/comments?post=245006"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/245006\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media\/245007"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media?parent=245006"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/categories?post=245006"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/tags?post=245006"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}