{"id":126776,"date":"2026-05-11T14:39:13","date_gmt":"2026-05-11T14:39:13","guid":{"rendered":"https:\/\/www.europesays.com\/ch-fr\/126776\/"},"modified":"2026-05-11T14:39:13","modified_gmt":"2026-05-11T14:39:13","slug":"anthropic-attribue-les-tentatives-de-chantage-de-claude-aux-recits-d-ia-malefique","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ch-fr\/126776\/","title":{"rendered":"Anthropic attribue les tentatives de chantage de Claude aux r\u00e9cits d\u2019\u00ab IA mal\u00e9fique \u00bb"},"content":{"rendered":"

Vous est-il d\u00e9j\u00e0 arriv\u00e9 de lire un livre ou de regarder une s\u00e9rie au point de vous identifier un peu trop \u00e0 un personnage ? Selon Anthropic, quelque chose de similaire se serait produit lors des tests de son chatbot Claude.<\/p>\n

\"\"
\n PUBLICIT\u00c9<\/p>\n

\"\"
\n PUBLICIT\u00c9<\/p>\n

Lors des \u00e9valuations men\u00e9es avant la sortie du mod\u00e8le d\u2019intelligence artificielle l\u2019an dernier, Anthropic a constat\u00e9 que Claude Opus 4 mena\u00e7ait parfois les ing\u00e9nieurs lorsqu\u2019on lui disait qu\u2019il pouvait \u00eatre remplac\u00e9.<\/p>\n

L\u2019entreprise a ensuite indiqu\u00e9 qu\u2019un comportement similaire, qualifi\u00e9 d\u2019\u00ab agentic misalignment \u00bb, avait \u00e9galement \u00e9t\u00e9 observ\u00e9 dans des mod\u00e8les d\u2019IA d\u00e9velopp\u00e9s par d\u2019autres soci\u00e9t\u00e9s.<\/p>\n

L\u2019IA s\u2019inspire des fictions sur l\u2019IA<\/p>\n

Anthropic pense d\u00e9sormais avoir trouv\u00e9 l\u2019origine de ce comportement de type chantage : des r\u00e9cits de fiction sur l\u2019intelligence artificielle circulant sur Internet.<\/p>\n

\u00ab Nous pensons que la source initiale de ce comportement est un texte trouv\u00e9 sur Internet qui pr\u00e9sente l\u2019IA comme malveillante et soucieuse de sa propre survie \u00bb, a \u00e9crit l\u2019entreprise sur X (source en anglais)<\/a>.<\/p>\n

Dans un billet de blog, Anthropic a indiqu\u00e9 que les versions ult\u00e9rieures de Claude ne faisaient plus jamais de chantage envers qui que ce soit et a expliqu\u00e9 comment le chatbot avait \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 r\u00e9agir diff\u00e9remment. (source en anglais)<\/a> Les mod\u00e8les se comportaient mieux lorsqu\u2019ils \u00e9taient entra\u00een\u00e9s non seulement sur des actions \u00ab correctes \u00bb, mais aussi sur des exemples montrant un raisonnement \u00e9thique et des repr\u00e9sentations positives du comportement de l\u2019IA.<\/p>\n

Claude s\u2019est ainsi vu enseigner sa propre \u00ab constitution \u00bb, des documents exposant un ensemble de principes \u00e9thiques destin\u00e9s \u00e0 guider son comportement. L\u2019entreprise affirme que, plut\u00f4t que d\u2019apprendre simplement \u00e0 reproduire un comportement align\u00e9, le chatbot semble mieux apprendre lorsqu\u2019il assimile les principes sous-jacents \u00e0 ce comportement.<\/p>\n

Menacer ou devenir une menace<\/p>\n

En janvier, le directeur g\u00e9n\u00e9ral d\u2019Anthropic, Dario Amodei, avait mis en garde contre le risque que des IA avanc\u00e9es deviennent suffisamment puissantes pour d\u00e9passer les lois et institutions existantes<\/a>, parlant d\u2019un \u00ab d\u00e9fi civilisationnel \u00bb.<\/p>\n

Dans un essai, il soutenait que les syst\u00e8mes d\u2019IA pourraient bient\u00f4t d\u00e9passer l\u2019expertise humaine dans des domaines comme la science, l\u2019ing\u00e9nierie ou la programmation, et \u00eatre combin\u00e9s pour former \u00ab un pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb.<\/p>\n

Il alertait \u00e9galement sur le fait que de tels syst\u00e8mes pourraient \u00eatre utilis\u00e9s par des gouvernements autoritaires pour mettre en place une surveillance et un contr\u00f4le \u00e0 grande \u00e9chelle, ouvrant potentiellement la voie \u00e0 des formes de pouvoir \u00ab totalitaires \u00bb si rien n\u2019est fait pour les encadrer.<\/p>\n","protected":false},"excerpt":{"rendered":"Vous est-il d\u00e9j\u00e0 arriv\u00e9 de lire un livre ou de regarder une s\u00e9rie au point de vous identifier…\n","protected":false},"author":2,"featured_media":126777,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[7],"tags":[2124,323,61,57,59,58,23,60,62],"class_list":["post-126776","post","type-post","status-publish","format-standard","has-post-thumbnail","category-sciences-et-technologies","tag-chatbot","tag-intelligence-artificielle","tag-science","tag-science-and-technology","tag-sciences","tag-sciences-et-technologies","tag-suisse","tag-technologies","tag-technology"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/116556462074557868","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/126776","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=126776"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/126776\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/126777"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=126776"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=126776"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=126776"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}