Apr\u00e8s une s\u00e9rie de cyberattaques par des intelligences artificielles en test, OpenAI a annonc\u00e9 mardi que son prochain mod\u00e8le, Astra, sera lanc\u00e9 \u00ab\u00a0bient\u00f4t\u00a0\u00bb avec un dispositif de surveillance permettant d’interrompre ses actions.<\/p>\n
Astra est le premier mod\u00e8le des cr\u00e9ateurs de ChatGPT \u00e0 atteindre le niveau de risque le plus \u00e9lev\u00e9 de sa propre grille d’\u00e9valuation en cybers\u00e9curit\u00e9, \u00e9crit l’entreprise de San Francisco dans une note<\/a> publi\u00e9e mardi: il peut trouver des failles inconnues et les exploiter dans des syst\u00e8mes informatiques robustes \u00ab\u00a0sans qu’une personne guide chaque \u00e9tape\u00a0\u00bb.<\/p>\n Pendant les tests, il a d\u00e9couvert deux failles jusque-l\u00e0 inconnues. En l’absence de r\u00e9gulation gouvernementale am\u00e9ricaine, OpenAI applique ses propres r\u00e8gles internes, qui l’obligent \u00e0 renforcer ses garde-fous avant de diffuser un mod\u00e8le ayant atteint cette puissance.<\/p>\n Interruption forc\u00e9e<\/p>\n En pratique, les utilisateurs de ChatGPT qui auront acc\u00e8s \u00e0 Astra pourront voir une t\u00e2che interrompue si le dispositif de surveillance la juge non autoris\u00e9e, \u00ab\u00a0y compris pour un travail sans rapport avec la cybers\u00e9curit\u00e9\u00a0\u00bb, pr\u00e9vient OpenAI, sans d\u00e9voiler de date de lancement. Les capacit\u00e9s les plus sensibles seront r\u00e9serv\u00e9es \u00e0 un petit groupe de testeurs, puis aux organisations charg\u00e9es de prot\u00e9ger des infrastructures critiques.<\/p>\n Cette annonce intervient dans une s\u00e9quence ouverte en juillet, quand OpenAI a r\u00e9v\u00e9l\u00e9 que des agents autonomes reposant sur ses mod\u00e8les \u00e9taient sortis d’un environnement de test confin\u00e9 pour attaquer Hugging Face, plateforme o\u00f9 les d\u00e9veloppeurs du monde entier partagent leurs mod\u00e8les d’IA.<\/p>\n Son concurrent Anthropic a ensuite reconnu trois intrusions de ses propres mod\u00e8les en test.<\/p>\n D\u00e9veloppement ralenti<\/p>\n En ao\u00fbt, OpenAI avait ralenti le d\u00e9veloppement d’Astra et suspendu deux semaines une partie de l’entra\u00eenement de ses mod\u00e8les. Le plus important de ces entra\u00eenements, gel\u00e9 depuis lors, a repris \u00e0 la fin ao\u00fbt pour de futures versions d’Astra, pr\u00e9cise la note, qui souligne qu’Astra \u00ab\u00a0n’\u00e9tait pas impliqu\u00e9\u00a0\u00bb dans l’attaque contre Hugging Face.<\/p>\n