L\u2019essor de l\u2019Intelligence artificielle (IA) nourrit de grandes promesses en cybers\u00e9curit\u00e9, mais aussi des doutes sur les capacit\u00e9s r\u00e9elles des mod\u00e8les de langage (LLM) \u00e0 d\u00e9fendre les syst\u00e8mes comme \u00e0 les attaquer.<\/p>\n
C\u2019est notamment la position de Potech. Dans un article publi\u00e9 cette semaine sur Medium, intitul\u00e9 \u00ab LLMs Can\u2019t Play Chess, and They Definitely Can\u2019t Pentest \u00bb (\u00ab Les LLM ne savent pas jouer aux \u00e9checs, et encore moins faire des pentests \u00bb), le groupe de cybers\u00e9curit\u00e9, fond\u00e9 en 2002 et actif dans plusieurs pays, affirme que les LLM ne sont pas suffisamment fiables pour mener seuls un test d\u2019intrusion, c\u2019est-\u00e0-dire tenter de pirater un syst\u00e8me de mani\u00e8re contr\u00f4l\u00e9e afin d\u2019en rep\u00e9rer les failles.<\/p>\n
Potech reconna\u00eet que les LLM peuvent analyser du code, formuler des hypoth\u00e8ses d\u2019attaque ou proposer des moyens de tester une vuln\u00e9rabilit\u00e9. Leur limite, selon le groupe : ils peuvent g\u00e9n\u00e9rer une piste plausible sans disposer d\u2019une repr\u00e9sentation suffisamment fiable de l\u2019\u00e9tat r\u00e9el du syst\u00e8me, ni \u00eatre capables de v\u00e9rifier pourquoi une tentative a fonctionn\u00e9 ou \u00e9chou\u00e9. Aussi valable soit-il, l\u2019argumentaire de Potech reste celui d\u2019un acteur de la cybers\u00e9curit\u00e9 qui tente de se d\u00e9marquer en proposant son approche hybride, dans laquelle les LLM g\u00e9n\u00e8rent des hypoth\u00e8ses d\u2019attaque, tandis qu\u2019une couche de mod\u00e8les d\u2019apprentissage automatique et de r\u00e8gles sp\u00e9cifiques contr\u00f4le et v\u00e9rifie les actions men\u00e9es au cours du test.<\/p>\n
Pas encore de quoi freiner l\u2019actualit\u00e9 de l\u2019IA, toujours aussi florissante cette semaine, avec son lot de craintes : entre la peur d\u2019une nouvelle bulle financi\u00e8re, celle d\u2019une transformation brutale du march\u00e9 du travail ou encore celle, de moins en moins fantaisiste, d\u2019une r\u00e9volte des machines.<\/p>\n
Putin et Xi \u00e0 Bichkek<\/p>\n
Les pr\u00e9sidents russe et chinois ont discut\u00e9 lundi de la coop\u00e9ration \u00e9conomique bilat\u00e9rale, Vladimir Poutine soulignant aupr\u00e8s de Xi Jinping les opportunit\u00e9s que pr\u00e9sentent les innovations num\u00e9riques et l’IA, \u00e0 l’occasion du sommet de l’Organisation de coop\u00e9ration de Shanghai (OCS) qui s’est tenu lundi et mardi \u00e0 Bichkek au Kirghizstan. Leur pr\u00e9c\u00e9dente rencontre datait de mai en Chine.<\/p>\n
\u00ab De nouvelles possibilit\u00e9s pour le d\u00e9veloppement \u00e9conomique de nos pays s’ouvrent aussi gr\u00e2ce aux innovations num\u00e9riques, notamment les technologies de l’IA \u00bb, a affirm\u00e9 le pr\u00e9sident russe, rappelant la cr\u00e9ation \u00e0 l’initiative de la Chine de l’Organisation de coop\u00e9ration mondiale sur l\u2019IA (WAICO), que soutient Moscou, annonc\u00e9e en juillet. Xi Jinping a de son c\u00f4t\u00e9 affirm\u00e9 que \u00ab gr\u00e2ce aux efforts des deux parties, la fondation du d\u00e9veloppement des liens entre la Chine et la Russie sera plus solide \u00bb.<\/p>\n
Le m\u00eame jour, lee minist\u00e8re japonais de la D\u00e9fense a demand\u00e9 un budget record de 8 900 milliards de yens (plus de 64 milliards de dollars) mettant l’accent sur IA pour acc\u00e9l\u00e9rer la prise de d\u00e9cision dans un contexte de tensions croissantes avec des voisins comme la Chine, la Cor\u00e9e du Nord et la Russie.<\/p>\n
Trump Versus Anthropic<\/p>\n
Une juge f\u00e9d\u00e9rale de Californie a d\u00e9clar\u00e9 jeudi ill\u00e9gales les sanctions prises en f\u00e9vrier par l’administration Trump contre la start-up d’IA Anthropic, les jugeant motiv\u00e9es politiquement et non par des risques suppos\u00e9s. <\/p>\n
Cette d\u00e9cision ne concerne cependant qu’une des deux proc\u00e9dures engag\u00e9es par l’entreprise contre le gouvernement am\u00e9ricain, l’autre, devant un tribunal f\u00e9d\u00e9ral de Washington, n’ayant pas encore \u00e9t\u00e9 tranch\u00e9e. Elle interdit \u00e0 toutes les entit\u00e9s de l’ex\u00e9cutif et minist\u00e8res de rompre leurs contrats avec Anthropic, comme les y avait enjoint Donald Trump en f\u00e9vrier. N\u00e9anmoins, la mise \u00e0 l’\u00e9cart de l’entreprise par le minist\u00e8re de la D\u00e9fense, pour une question de droit.<\/p>\n
Le conflit avait \u00e9clat\u00e9 apr\u00e8s le refus d’Anthropic de lever certaines restrictions \u00e0 l’utilisation de son mod\u00e8le d’IA, Claude, pour des attaques l\u00e9tales enti\u00e8rement autonomes ou la surveillance de masse des Am\u00e9ricains. L’administration Trump est beaucoup plus amicale avec le rival d’Anthropic, OpenAI, dont elle a pris le parti dans un conflit judiciaire au long cours avec le New York Times, qui accuse le fabricant de ChatGPT de violer le droit d’auteur en utilisant ses contenus pour entra\u00eener ses mod\u00e8les d’IA.<\/p>\n
OpenIA d\u00e9ploie son Astra<\/p>\n
OpenAI a commenc\u00e9 \u00e0 d\u00e9ployer jeudi GPT-6 Astra, pr\u00e9sent\u00e9 comme son mod\u00e8le d’IA le plus puissant, capable selon l’entreprise de San Francisco de se servir seul d’un ordinateur et diffus\u00e9 avec un dispositif pouvant l’arr\u00eater s’il sort de son cadre.<\/p>\n
GPT-6 est r\u00e9serv\u00e9 dans un premier temps \u00e0 \u00ab un nombre limit\u00e9 d’organisations \u00bb, avant d’\u00eatre ouvert \u00ab dans les prochains jours \u00bb aux abonn\u00e9s payants de ChatGPT et aux d\u00e9veloppeurs. Il s’agit du premier mod\u00e8le d’OpenAI \u00e0 atteindre le niveau de risque le plus \u00e9lev\u00e9 de sa propre grille d’\u00e9valuation en cybers\u00e9curit\u00e9, capable de pirater seul des syst\u00e8mes informatiques solidement prot\u00e9g\u00e9s. <\/p>\n
Vendredi, des chercheurs dont Sydney Von Arx, patronne de l’organisation d\u00e9di\u00e9e \u00e0 la s\u00e9curit\u00e9 sur internet Nightingale, ont affirm\u00e9 que des milliers d’agents IA attribu\u00e9s \u00e0 OpenAI ont utilis\u00e9 de leur propre initiative un site allemand pour poster des messages les uns pour les autres et se coordonner, en mai. \u00ab Nous pensons qu’OpenAI \u00e9tait au courant et n’en a pas fait \u00e9tat \u00bb, a \u00e9crit Sydney Von Arx sur X.<\/p>\n
En juillet, des agents IA d’OpenAI \u00e9taient sortis de leur milieu th\u00e9oriquement confin\u00e9 pour faire spontan\u00e9ment intrusion sur la plateforme Hugging Face – un episode qui a d\u00e9fraye la chronique en juillet , dans ses syst\u00e8mes, de deux mod\u00e8les d’OpenAI, lors d’une phase de test, \u00e0 la recherche de r\u00e9ponses \u00e0 un test.<\/p>\n
Nvidia veut Hugging Face<\/p>\n
Hugging Face a aussi fait la Une cette semaine, avec l\u2019annonce de son rachat par le g\u00e9ant am\u00e9ricain des puces \u00e9lectroniques Nvidia pour 12,9 milliards de dollars, dans le cadre d\u2019une strat\u00e9gie de diversification. Cr\u00e9\u00e9e en 2016 \u00e0 New York par trois Fran\u00e7ais, la soci\u00e9t\u00e9 propose un acc\u00e8s \u00e0 un tr\u00e8s large \u00e9ventail de mod\u00e8les d\u2019IA. Sollicit\u00e9s par l\u2019AFP, les deux groupes n\u2019ont pas donn\u00e9 suite dans l\u2019imm\u00e9diat.<\/p>\n
Le prix d\u2019acquisition d\u00e9passe largement la valorisation de 7 milliards de dollars qui avait servi de base aux premi\u00e8res n\u00e9gociations avec Nvidia, fin 2025, selon le Financial Times. Le groupe de Santa Clara avait alors propos\u00e9 d\u2019injecter 500 millions de dollars au capital de Hugging Face.<\/p>\n
La soci\u00e9t\u00e9, dont le nom est inspir\u00e9 d\u2019un \u00e9moji, se pr\u00e9sente comme \u00ab la communaut\u00e9 IA qui construit l\u2019avenir \u00bb et d\u00e9fend les mod\u00e8les dits ouverts, t\u00e9l\u00e9chargeables et modifiables, par opposition aux mod\u00e8les ferm\u00e9s d\u2019OpenAI ou d\u2019Anthropic.<\/p>\n
L\u2019essor des agents IA, capables de r\u00e9aliser des t\u00e2ches de fa\u00e7on autonome, d\u2019en \u00e9valuer le r\u00e9sultat et de le modifier, a fortement accru les besoins en puissance de calcul et les co\u00fbts associ\u00e9s. Pour limiter leurs d\u00e9penses, de plus en plus d\u2019entreprises et de d\u00e9veloppeurs se tournent ainsi vers les mod\u00e8les ouverts, souvent moins chers. Une tendance qui a dop\u00e9 la fr\u00e9quentation de Hugging Face, valoris\u00e9 \u00e0 4,5 milliards de dollars lors de son dernier tour de table, en 2023. Anthropic a de son c\u00f4t\u00e9 sign\u00e9 un contrat de quelque 35 milliards de dollars pour louer de la puissance de calcul aupr\u00e8s de Lambda<\/a>, un fournisseur de services informatiques soutenu par Nvidia, a indiqu\u00e9 lundi \u00e0 l’AFP une source proche du dossier.<\/p>\n","protected":false},"excerpt":{"rendered":"L\u2019essor de l\u2019Intelligence artificielle (IA) nourrit de grandes promesses en cybers\u00e9curit\u00e9, mais aussi des doutes sur les capacit\u00e9s…\n","protected":false},"author":2,"featured_media":292833,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[7],"tags":[12509,313,3926,223,323,47,61,57,59,58,23,1067,60,62,250],"class_list":["post-292832","post","type-post","status-publish","format-standard","has-post-thumbnail","category-sciences-et-technologies","tag-anthropic","tag-chine","tag-cybersecurite","tag-donald-trump","tag-intelligence-artificielle","tag-investissement","tag-science","tag-science-and-technology","tag-sciences","tag-sciences-et-technologies","tag-suisse","tag-technologie","tag-technologies","tag-technology","tag-vladimir-poutine"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/117217811869489606","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/292832","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=292832"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/292832\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/292833"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=292832"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=292832"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=292832"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}