{"id":267142,"date":"2026-08-19T10:55:12","date_gmt":"2026-08-19T10:55:12","guid":{"rendered":"https:\/\/www.europesays.com\/ch-fr\/267142\/"},"modified":"2026-08-19T10:55:12","modified_gmt":"2026-08-19T10:55:12","slug":"face-aux-risques-de-piratage-openai-freine-sa-future-ia","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ch-fr\/267142\/","title":{"rendered":"Face aux risques de piratage, OpenAI freine sa future IA"},"content":{"rendered":"

OpenAI, cr\u00e9ateur de ChatGPT, a confirm\u00e9 mardi ralentir le d\u00e9veloppement de son mod\u00e8le d’intelligence artificielle (IA) le plus avanc\u00e9. L’entreprise souhaite durcir ses contr\u00f4les internes, un mois apr\u00e8s avoir r\u00e9v\u00e9l\u00e9 un piratage informatique men\u00e9 de fa\u00e7on autonome par une de ses IA.<\/p>\n

Le plus gros entra\u00eenement d’IA jamais programm\u00e9 par OpenAI reste \u00e0 l’arr\u00eat, le temps de v\u00e9rifier que cette future IA, appel\u00e9e Astra, se comporte comme pr\u00e9vu, a indiqu\u00e9 la soci\u00e9t\u00e9 dans un billet de blog<\/a>, mardi.<\/p>\n

\u00ab\u00a0Nous avons toujours dit que nous agirions si nous estimions que les capacit\u00e9s des mod\u00e8les progressaient plus vite que la s\u00e9curit\u00e9\u00a0\u00bb, a \u00e9crit sur le r\u00e9seau social X le patron d’OpenAI, Sam Altman.<\/p>\n

Contenu externe<\/p>\n

Ce contenu externe ne peut pas \u00eatre affich\u00e9 car il est susceptible de collecter des donn\u00e9es personnelles. Pour voir ce contenu vous devez autoriser la cat\u00e9gorie R\u00e9seaux sociaux. <\/p>\n

Accepter Plus d’info <\/p>\n

A la mi-juillet, un agent autonome reposant sur deux mod\u00e8les d’OpenAI \u00e9tait sorti, de sa propre initiative, de son milieu de test confin\u00e9 pour s’aventurer sur Internet et attaquer Hugging Face, plateforme o\u00f9 les d\u00e9veloppeurs du monde entier partagent leurs mod\u00e8les d’IA.<\/p>\n

>> Lire \u00e0 ce sujet\u00a0: Un piratage \u00ab\u00a0sans pr\u00e9c\u00e9dent\u00a0\u00bb d’une plateforme par les agents d’IA d’OpenAI<\/a><\/p>\n

Son concurrent Anthropic a r\u00e9v\u00e9l\u00e9 \u00e0 la fin juillet que trois de ses mod\u00e8les en test avaient aussi op\u00e9r\u00e9 des intrusions non autoris\u00e9es dans les syst\u00e8mes informatiques de trois organisations.<\/p>\n

Inqui\u00e9tudes et p\u00e9tition<\/p>\n

Ces incidents ont donn\u00e9 lieu \u00e0 une p\u00e9tition de plus d’un millier d’employ\u00e9s du secteur appelant le gouvernement am\u00e9ricain \u00e0 soutenir un ralentissement concert\u00e9 du d\u00e9veloppement des IA les plus avanc\u00e9es.<\/p>\n

OpenAI avait par ailleurs interrompu pendant deux semaines l’entra\u00eenement de ses derniers mod\u00e8les, avant de le reprendre sous des contr\u00f4les renforc\u00e9s.<\/p>\n

De nombreux travaux li\u00e9s \u00e0 Astra restent suspendus: l’entreprise a estim\u00e9 au d\u00e9but ao\u00fbt que ce mod\u00e8le pourrait franchir le seuil d’alerte qu’elle s’est elle-m\u00eame fix\u00e9 pour les capacit\u00e9s de piratage de ses IA. Elle n’a pas pr\u00e9cis\u00e9 de calendrier de reprise.<\/p>\n

Une IA sous contr\u00f4le?<\/p>\n

Le groupe a aussi d\u00e9taill\u00e9 mardi un nouveau dispositif, qui surveille le raisonnement interne de ses mod\u00e8les en cours de d\u00e9veloppement et doit alerter des \u00e9quipes humaines en moins de 30 minutes en cas de comportement suspect. Ce contr\u00f4le consomme toutefois environ 20% de puissance de calcul suppl\u00e9mentaire.<\/p>\n

Les propres recherches d’OpenAI, en 2025, ont toutefois montr\u00e9 les limites de cette approche: un mod\u00e8le qui se sait surveill\u00e9 peut apprendre \u00e0 masquer ses intentions dans son raisonnement.<\/p>\n

L’entreprise, qui promet depuis juillet un compte-rendu technique d\u00e9taill\u00e9 de l’incident Hugging Face, ne l’a pas encore publi\u00e9. Son billet de mardi l’annonce \u00ab\u00a0dans les semaines \u00e0 venir\u00a0\u00bb.<\/p>\n

afp\/lbl<\/p>\n","protected":false},"excerpt":{"rendered":"OpenAI, cr\u00e9ateur de ChatGPT, a confirm\u00e9 mardi ralentir le d\u00e9veloppement de son mod\u00e8le d’intelligence artificielle (IA) le plus…\n","protected":false},"author":2,"featured_media":267143,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[6],"tags":[45,6475,44,344,43,40427,3302,323,7906,1643,296,58,806,23,1703,807,808],"class_list":["post-267142","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economie","tag-business","tag-chatgpt","tag-economie","tag-economie-et-finances","tag-economy","tag-entreprise-q483045328","tag-informatique-et-telecommunications","tag-intelligence-artificielle","tag-openai","tag-risque","tag-science-et-technologie","tag-sciences-et-technologies","tag-sciences-tech","tag-suisse","tag-technologie-de-linformation-et-informatique","tag-technologie-et-ingenierie","tag-technologies-de-linformation-et-de-la-communication"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/117121812836513130","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/267142","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=267142"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/267142\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/267143"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=267142"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=267142"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=267142"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}