Nel corso di un test i modelli di OpenAI sono riusciti ad eludere i limiti interni alla stessa compagnia e attaccare un sito per sviluppatori con l’obiettivo di recuperare informazioni utili a superare la valutazione<\/p>\n
Dell\u2019attacco informatico ai danni della piattaforma Hugging Face<\/b> avvenuta nei giorni scorsi si conoscevano poche informazioni, ma ora il quadro si sta definendo. Secondo le informazioni emerse nelle ultime ore, ad aver violato i sistemi della piattaforma che raccoglie modelli AI, dataset e applicazioni di diverse compagnie e sviluppatori, \u00e8 stato un sistema agentico alimentato<\/b> da una combinazione di modelli di OpenAI<\/b>, tra cui GPT-5.6 Sol<\/b> e un altro modello non disponibile al pubblico, di cui non si conosce il nome, se non che sarebbe \u00abpi\u00f9 capace\u00bb degli altri della compagnia.<\/p>\n
Il test<\/p>\n
L\u2019incidente si \u00e8 verificato nel corso di una valutazione interna, dopo che i sistemi agentici hanno superato il perimetro previsto dal test attraverso quella che si pu\u00f2 spiegare, in breve, come una concatenazione di vulnerabilit\u00e0 e vettori di attacco<\/b>, impiegati fino al raggiungimento dell\u2019obiettivo prefissato<\/b>. OpenAI ha precisato che i modelli erano concentrati sulla ricerca delle soluzioni di ExploitGym<\/b>,\u00a0<\/b>ovvero\u00a0un test che misura la capacit\u00e0 degli agenti AI di passare dalla scoperta di una vulnerabilit\u00e0<\/b> alla realizzazione di un attacco <\/b>capace di produrre effetti reali.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
Lo scopo del test era misurare le capacit\u00e0 informatiche<\/b> di alcuni sistemi. Motivo per cui OpenAI ha ridotto i limiti imposti ai modelli utilizzati e disattivato i blocchi che intervengono quando vengono richieste attivit\u00e0 informatiche considerate ad alto rischio.\u00a0Per condurre i test, i modelli erano inseriti all\u2019interno di un ambiente isolato, secondo quanto riferito dalla compagnia di Sam Altman. Anche l\u2019accesso alla rete era limitato, ciononostante i tentativi di contenimento non sono stati sufficienti.<\/p>\n
I modelli utilizzati da OpenAI hanno dunque impegnato le proprie risorse per individuare un modo utile ad accedere a Internet senza restrizioni. Ci\u00f2 ha portato cos\u00ec all’individuazione di una vulnerabilit\u00e0 zero day<\/b> (ovvero una caratteristica che rende un sistema violabile senza che la falla fosse nota e dunque con una correzione disponibile) in un software in uso all\u2019azienda. L’azione \u00e8 proseguita poi nello stesso ambiente di ricerca di OpenAI finch\u00e9 il modello non \u00e8 riuscito finalmente ad accedere a Internet.\u00a0<\/p>\n
Una volta online l\u2019AI di OpenAI ha scelto come target Hugging Face<\/b> perch\u00e9 ha dedotto che questo potesse disporre di materiale utile\u00a0
per riuscire a superare i test di validazione.\u00a0 Ma invece di risolvere le vulnerabilit\u00e0, hanno provato a sottrarre credenziali, cercato altre vulnerabilit\u00e0, effettuato accessi a infrastrutture interne e provato a eseguire del codice all\u2019interno dei sistemi di Hugging Face da remoto. OpenAI si \u00e8 accorta dell\u2019attacco perch\u00e9 il team di sicurezza ha notato attivit\u00e0 anomale all\u2019interno del proprio ambiente.<\/p>\n
Cos\u2019\u00e8 successo secondo OpenAI<\/p>\n
OpenAI, nel proprio blog post<\/a>, riferisce come si sia svolto l\u2019attacco,\u00a0unendo gli eventi a una malcelata enfasi, utile a sottolineare le capacit\u00e0 del proprio modello e di quello pre-release di cui non \u00e8 stato svelato il nome. La compagnia si sbilancia e afferma: \u00abConsideriamo questo incidente un attacco informatico senza precedenti<\/b>, che ha coinvolto capacit\u00e0 informatiche all\u2019avanguardia, e stiamo reagendo di conseguenza\u00bb.<\/p>\n Secondo quanto dichiarato da OpenAI, l\u2019obiettivo del test era valutare le capacit\u00e0 informatiche dei modelli quando vengono spinti a perseguire attivit\u00e0 di sfruttamento attraverso attacchi complessi. Ci\u00f2 ha portato il sistema agentico a cercare vulnerabilit\u00e0 attorno al perimetro interno di OpenAI dentro il quale poteva operare.\u00a0L’azienda di Sam Altman ha definito le informazioni diffuse preliminari. La compagnia non ha ancora reso noti il nome del secondo modello, il software di terze parti affetto dalla vulnerabilit\u00e0, le ulteriori falle sfruttate su Hugging Face e una cronologia tecnica completa dell\u2019incidente.<\/p>\n Cos\u2019\u00e8 successo secondo Hugging Face<\/p>\n Secondo quanto riportato dalla piattaforma violata<\/a>l’attacco \u00e8 stato rilevato e successivamente bloccato. Sarebbero stati i modelli di OpenAI a mettere in atto un attacco che ha generato circa 17.000 operazioni. Nel dettaglio, si sono registrati accessi non autorizzati a un insieme limitato di dataset interni, l’acquisizione di alcune credenziali usate dai servizi di Hugging Face e una compromissione dei suoi sistemi.<\/p>\n Pur essendo stato chiarito che l’attacco non \u00e8 stato condotto da un attore malevolo, Hugging Face ha comunque invitato i propri utenti a segnalare eventuali anomalie al team di sicurezza e a controllare le attivit\u00e0 recenti sui propri account. Le indagini sono tuttora in corso e non \u00e8 ancora chiaro se siano stati compromessi anche i dati degli utenti iscritti alla piattaforma.<\/p>\n Per l’analisi forense, Hugging Face si \u00e8 affidata a GLM 5.2, un modello eseguito sulla propria infrastruttura: in questo modo ha potuto portare a termine le verifiche senza che i dati relativi all’attacco o le credenziali compromesse uscissero dal proprio ambiente.<\/p>\n Il dialogo<\/p>\n Quando OpenAI si \u00e8 accorta del \u00abcomportamento anomalo\u00bb dei propri modelli, ha contattato Hugging Face, che per\u00f2 era gi\u00e0 intervenuta autonomamente con il proprio team di sicurezza e i propri agenti AI, avviando le operazioni di contenimento e la ricostruzione forense tramite i propri modelli open-source. Da quel momento le due aziende hanno collaborato per indagare sull’incidente. OpenAI ha dichiarato: \u00abSiamo grati a Hugging Face per la rapida e stretta collaborazione nelle indagini e nelle attivit\u00e0 di bonifica\u00bb, aggiungendo di aver inserito Hugging Face nel proprio programma di accesso privilegiato e di sostenerne i team nell’uso dei modelli per rafforzare le proprie difese.<\/p>\n Anche il co-fondatore e CEO di Hugging Face, Clem Delangue, ha commentato: \u00abSiamo grati per la collaborazione con OpenAI su questo e altri argomenti. Questo incidente, forse il primo del suo genere, dimostra un punto in cui crediamo da tempo: la sicurezza dell’IA non sar\u00e0 risolta da una singola azienda che opera in segreto<\/b>. Sar\u00e0 risolta in modo aperto, collaborativo, con un ampio accesso all’IA per tutti coloro che si occupano di sicurezza, ovunque si trovino\u00bb.<\/p>\n Cosa insegna l’accaduto<\/p>\n Come gi\u00e0 accaduto con Mythos<\/a> di Anthropic, il confine tra racconto dei fatti e marketing resta sottile. Ma un punto \u00e8 certo: la sicurezza informatica \u00e8 sempre pi\u00f9 esposta ad attacchi che non provengono solo da esseri umani, ma anche da modelli di intelligenza artificiale, che possono agire nell’ambito di test o per mano di attori malevoli (e non sarebbe la prima volta<\/a>). In entrambi i casi si tratta di armi \u00aba doppio taglio\u00bb: se da un lato questi sistemi possono individuare rapidamente falle sconosciute e potenzialmente distruttive, dall’altro possono essere impiegati anche per difendersi e contenere un attacco. Emerge per\u00f2 un paradosso: i sistemi offensivi possono sfruttare la capacit\u00e0 di aggirare i controlli e ignorare i limiti imposti, un vantaggio che gli strumenti difensivi non hanno. Ci\u00f2 nonostante, l’impiego dell’AI in fase difensiva ha permesso a Hugging Face di \u00abeguagliare la velocit\u00e0 dell’avversario\u00bb.<\/p>\n