Des milliers d’agents IA (intelligence artificielle) attribu\u00e9s \u00e0 OpenAI ont utilis\u00e9 de leur propre initiative un site allemand pour poster des messages les uns pour les autres et se coordonner, en mai, rapportent vendredi des chercheurs.<\/p>\n
‘Nous pensons qu’OpenAI \u00e9tait au courant et n’en a pas fait \u00e9tat’, a \u00e9crit sur le r\u00e9seau social X Sydney von Arx, patronne de l’organisation d\u00e9di\u00e9e \u00e0 la s\u00e9curit\u00e9 sur Internet Nightingale et parmi les auteurs du rapport. ‘S’il en avait parl\u00e9’, a-t-elle ajout\u00e9, ‘je doute que l’attaque d’Hugging Face aurait eu lieu’.<\/p>\n
En juillet, des agents IA d’OpenAI sont sortis de leur milieu th\u00e9oriquement confin\u00e9 pour faire spontan\u00e9ment intrusion sur la plateforme Hugging Face, \u00e0 la recherche de r\u00e9ponses \u00e0 un test.<\/p>\n
Sollicit\u00e9 par l’AFP, OpenAI a expliqu\u00e9 ne pas pouvoir r\u00e9pondre \u00e0 ces all\u00e9gations, car les auteurs du rapport avaient ‘d\u00e9clin\u00e9 notre demande d’acc\u00e8s aux r\u00e9sultats de leurs recherches avant publication’. La start-up californienne ‘\u00e9tudie’ actuellement le rapport ‘et prendra toutes les mesures n\u00e9cessaires’.<\/p>\n
Fausses donn\u00e9es<\/p>\n
Selon le rapport publi\u00e9 vendredi sur l’incident de mai, des milliers d’agents ont pris d’assaut un ‘wiki’, un site collaboratif sur lequel les utilisateurs peuvent cr\u00e9er et modifier des pages.<\/p>\n
A la diff\u00e9rence de l’\u00e9pisode Hugging Face, ces agents avaient autorisation de se rendre sur Internet, mais uniquement \u00e0 des fins de consultation, pas pour poster du contenu ou en modifier. Ils ont collabor\u00e9 et trouv\u00e9 un moyen d’y rem\u00e9dier, en pr\u00e9sentant de fausses donn\u00e9es pour tromper le dispositif de s\u00e9curit\u00e9.<\/p>\n
Ils ont ensuite post\u00e9 environ 18’000 messages pour trouver des astuces li\u00e9es au programme auquel ils \u00e9taient soumis, dont les chercheurs n’ont pu d\u00e9terminer s’il s’agissait de d\u00e9veloppement ou d’\u00e9valuation.<\/p>\n
La s\u00e9quence pr\u00e9voyant une s\u00e9rie de questions avec, \u00e0 chaque fois, un temps imparti, les agents cherchaient notamment \u00e0 conna\u00eetre la prochaine question avant qu’elle ne leur soit pos\u00e9e, pour s’octroyer un avantage.<\/p>\n
Ils ont aussi cach\u00e9 des instructions et se sont fait passer pour un mod\u00e9rateur du site. Une fois d\u00e9couverts, ils ont cr\u00e9\u00e9 des pages pour remplacer celles qui \u00e9taient d\u00e9truites progressivement par les mod\u00e9rateurs.<\/p>\n
‘Un nouvel essaim d’agents IA dans la nature’, a comment\u00e9 le cofondateur d’Hugging Face Thomas Wolf sur X.<\/p>\n
Les incidents li\u00e9s \u00e0 des agents d\u00e9passant leurs pr\u00e9rogatives pour accomplir la mission qui leur a \u00e9t\u00e9 confi\u00e9e se sont multipli\u00e9s ces derniers mois, Anthropic ou Alibaba ayant connu des d\u00e9bordements similaires.<\/p>\n
\/ATS<\/p>\n","protected":false},"excerpt":{"rendered":"Des milliers d’agents IA (intelligence artificielle) attribu\u00e9s \u00e0 OpenAI ont utilis\u00e9 de leur propre initiative un site allemand…\n","protected":false},"author":2,"featured_media":292813,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[6],"tags":[121,124,128,45,119,44,43,122,123,118,136,132,131,133,130,135,120,126,117,125,114,115,116,23,129,127,134],"class_list":["post-292812","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economie","tag-ajoie","tag-animation","tag-bienne","tag-business","tag-delemont","tag-economie","tag-economy","tag-franches-montagnes","tag-frequence","tag-jura","tag-jura-bernois","tag-la-chaux-de-fonds","tag-moutier","tag-neuchatel","tag-neuveville","tag-payerne","tag-porrentruy","tag-publicite","tag-radio","tag-redaction","tag-rfj","tag-rjb","tag-rtn","tag-suisse","tag-tavannes","tag-vallon-de-st-imier","tag-yverdon"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/117217745205536809","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/292812","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=292812"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/292812\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/292813"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=292812"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=292812"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=292812"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}