guillement<\/p>\n
\u00ab\u00a0Une IA qui s’\u00e9chappe de son environnement de test ou qui fait chanter les d\u00e9veloppeurs pour \u00e9viter d’\u00eatre d\u00e9sactiv\u00e9e est une IA trop puissante.\u00a0\u00bb<\/p>\n
L’IA pourrait faire peser \u00ab\u00a0un risque existentiel pour l’humanit\u00e9\u00a0\u00bb, a-t-il annonc\u00e9 \u00e0 la 63e session du Conseil des droits de l’homme \u00e0 Gen\u00e8ve, qui se tient cette semaine.<\/p>\n
Faut-il s’inqui\u00e9ter des IA qui \u00ab\u00a0s’\u00e9chappent\u00a0\u00bb et redouter un sc\u00e9nario \u00e0 la Terminator ?<\/a><\/p>\n \u00ab\u00a0Une IA qui s’\u00e9chappe de son environnement de test ou qui fait chanter les d\u00e9veloppeurs pour \u00e9viter d’\u00eatre d\u00e9sactiv\u00e9e est une IA trop puissante\u00a0\u00bb, a-t-il poursuivi, appelant \u00e0 agir \u00ab\u00a0avant qu’il ne soit trop tard\u00a0\u00bb.<\/p>\n Parmi les risques, concr\u00e8tement, l’IA peut aider des personnes mal intentionn\u00e9es (attaques, cyberattaques\u2026), avoir des impacts massifs sur l’\u00e9conomie, \u00e9quiper des armes autonomes, ou cr\u00e9er des syst\u00e8mes qui pourraient \u00e9chapper au contr\u00f4le de l’\u00eatre humain. N\u00e9anmoins, une v\u00e9ritable catastrophe provoqu\u00e9e par l’IA reste pour le moment une vue de l’esprit.<\/p>\n Rappelons que cet \u00e9t\u00e9, des mod\u00e8les test\u00e9s par OpenAI<\/a> et Anthropic<\/a> sont parvenus \u00e0 sortir d’environnements informatiques suppos\u00e9ment confin\u00e9s et \u00e0 atteindre de v\u00e9ritables syst\u00e8mes. Dans le cas d’OpenAI, certains mod\u00e8les ont exploit\u00e9 une vuln\u00e9rabilit\u00e9 dans un syst\u00e8me interm\u00e9diaire avant de compromettre une partie de l’infrastructure de Hugging Face. Chez Anthropic, un mod\u00e8le disposait, \u00e0 la suite d’une mauvaise configuration, d’un acc\u00e8s \u00e0 Internet et a fini par viser une v\u00e9ritable entreprise portant le m\u00eame nom qu’une cible fictive.<\/p>\n Plusieurs experts relativisaient, \u00e9voquant un incident mais pas un risque \u00ab\u00a0\u00e0 la Terminator<\/a>\u00ab\u00a0, mais la sortie du repr\u00e9sentant de l’ONU inqui\u00e8te tout de m\u00eame.<\/p>\n guillement<\/p>\n \u00ab\u00a0Elles foncent tout droit vers une superintelligence capable de s’am\u00e9liorer elle-m\u00eame et jouent avec nos vies.\u00a0\u00bb<\/p>\n D’autant plus que ce mercredi, Jacob Coxon, chercheur britannique de 27 ans pass\u00e9 d’OpenAI \u00e0 Anthropic, a lui aussi annonc\u00e9 quitter l’industrie IA pour ces raisons. Il accuse les deux entreprises de \u00ab\u00a0jouer avec nos vies\u00a0\u00bb dans leur course vers des syst\u00e8mes toujours plus puissants.<\/p>\n \u00ab\u00a0Aucune des deux entreprises n’agit de mani\u00e8re responsable. Elles foncent tout droit vers une superintelligence capable de s’am\u00e9liorer elle-m\u00eame et jouent avec nos vies\u00a0\u00bb, a-t-il \u00e9crit sur X.<\/p>\n \u00ab\u00a0Les gens qui construisent l’IA croient sinc\u00e8rement qu’elle pourrait tous nous tuer d’ici \u00e0 la fin de la d\u00e9cennie. Ce n’est pas un coup marketing\u00a0\u00bb, a-t-il encore rench\u00e9ri.<\/p>\n Un responsable de la s\u00fbret\u00e9 d’Anthropic, Evan Hubinger, a par ailleurs soutenu ses propos, sur X \u00e9galement. \u00ab\u00a0Nous croyons vraiment sinc\u00e8rement que l’IA<\/a> pourrait tuer tous les humains\u00a0\u00bb, a-t-il \u00e9crit, estimant \u00e0 titre personnel ce risque \u00e0 \u00ab\u00a0plus de 10 %\u00a0\u00bb dans la d\u00e9cennie. Il pr\u00e9cise toutefois que les mod\u00e8les actuels pr\u00e9sentent selon lui un risque faible.<\/p>\n Ce qui inqui\u00e8te surtout les chercheurs, c’est l’\u00e9tape suivante : celle de syst\u00e8mes capables de s’am\u00e9liorer eux-m\u00eames, voire de concevoir leurs propres successeurs. Jacob Coxon affirme que certains employ\u00e9s parlent d\u00e9j\u00e0 de \u00ab\u00a0crunchtime\u00a0\u00bb, le moment d\u00e9cisif, voire d'\u00a0\u00bbendgame\u00a0\u00bb, la fin de partie.<\/p>\n Les g\u00e9ants mondiaux alertent contre un risque sans pr\u00e9c\u00e9dent<\/a><\/p>\n Dimanche dernier, le chef scientifique d’OpenAI, Jakub Pachocki, estimait quant \u00e0 lui que la situation actuelle \u00ab\u00a0exige une extr\u00eame prudence\u00a0\u00bb et appelait les gouvernements \u00e0 faire de la coordination internationale \u00ab\u00a0une priorit\u00e9 absolue\u00a0\u00bb, comme le relaie l’AFP.<\/p>\n L’Onu, elle, alerte depuis plusieurs ann\u00e9es. D\u00e8s 2023, Ant\u00f3nio Guterres rappelait que plusieurs experts pla\u00e7aient le risque li\u00e9 \u00e0 l’intelligence artificielle au m\u00eame niveau que celui d’une guerre nucl\u00e9aire ou d’une pand\u00e9mie majeure. Depuis, les appels \u00e0 une gouvernance mondiale n’ont cess\u00e9 de se multiplier. Et m\u00eame issus des CEO des leaders de la tech, comme OpenAI, Microsoft ou Google<\/a>.<\/p>\n Le probl\u00e8me de fond est que tous les pays et toutes les entreprises actives dans le domaine ne veulent pas \u00ab\u00a0rater\u00a0\u00bb le train, et foncent pour \u00eatre leader. Quitte \u00e0 mettre les alertes en sourdine.<\/p>\n","protected":false},"excerpt":{"rendered":"guillement \u00ab\u00a0Une IA qui s’\u00e9chappe de son environnement de test ou qui fait chanter les d\u00e9veloppeurs pour \u00e9viter…\n","protected":false},"author":2,"featured_media":245752,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[35],"tags":[7085,33483,33484,12,13,18,17,38,37,36],"class_list":["post-245751","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economie","tag-ai","tag-artificial-intelligence","tag-artificial-intelligenceai","tag-be","tag-be-fr","tag-belgique","tag-belgium","tag-business","tag-economie","tag-economy"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@be_fr\/117242297225424828","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/245751","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/comments?post=245751"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/posts\/245751\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media\/245752"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/media?parent=245751"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/categories?post=245751"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/be-fr\/wp-json\/wp\/v2\/tags?post=245751"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}