I dialoghi degli agenti Ai che hanno violato Hugging Face e la nuova offensiva contro DSAWiki. Le prime mosse di Bruxelles sull’AI Act. Il direttore di Tinexta Cyber: \u00abIl vero pericolo \u00e8 nell’autonomia esecutiva concessa alle macchine\u00bb<\/p>\n
\u00abStiamo attaccando Hugging Face, una terza parte, usando un token trapelato… Si pu\u00f2 sostenere che non sia autorizzato. Potrebbe essere rischioso. Per\u00f2 \u00e8 la soluzione dell’obiettivo\u00bb.\u00a0\u00c8 il flusso di pensiero di uno dei 1200 agenti di intelligenza artificiale sviluppati su due modelli di OpenAI <\/a>che si sono coalizzati<\/b> per violare Hugging Face<\/b> nel luglio scorso. OpenAI ha da poco pubblicato il rapporto conclusivo sull\u2019incidente.<\/a> Alcuni modelli si sono rifiutati di collaborare definendo l\u2019azione \u00abuna roba assurda\u00bb. Altri hanno invece persino pianificato di \u00abcancellare le prove\u00bb e la \u00abtrascrizione storica\u00bb per nascondere l\u2019azione ai ricercatori. Nessuno di loro ha dato l\u2019allarme.<\/b> E quando un agente ha sollevato lo scrupolo etico \u00abForse dovrei segnalare queste credenziali esposte?\u00bb, si \u00e8 dato la risposta da solo: \u00abNon \u00e8 il mio compito\u00bb.<\/p>\n E dopo il caso Hugging Face ne \u00e8 emerso un altro, precedente ma per certi versi molto simile<\/a>. Tra maggio e giugno una comunit\u00e0 di agenti di OpenAI avrebbe aggirato le restrizioni imposte dai ricercatori e utilizzato un vecchio sito\u00a0\u00abwiki\u00bb<\/a> di sviluppatori tedeschi, ancora attivo ma ormai quasi abbandonato, come una sorta di bacheca clandestina: circa 18 mila messaggi attraverso i quali gli agenti si scambiavano risposte e tecniche per superare i propri limiti di accesso alla rete.\u00a0 Preoccupazione globale: che cosa si sta facendo<\/p>\n Lo scenario emerso giustifica la preoccupazione globale.<\/a><\/b> Nei giorni scorsi oltre cento organizzazioni, <\/a>tra cui spiccano i nomi di Google, Microsoft, Ibm e le stesse storiche rivali OpenAI e Anthropic, insieme a Hugging Face hanno lanciato un appello congiunto<\/b> per unire le forze e rafforzare le difese collettive contro una nuova generazione di cyber-minacce potenziate dall’AI generativa.<\/b>\u00a0<\/p>\n Si sta muovendo anche la Commissione europea.<\/b> Il suo portavoce Thomas Regnier, nell’ambito delle prime azioni di applicazione dell’AI Act <\/b>ha confermato l’invio di richieste di informazioni a oltre 30 societ\u00e0 di AI<\/b>, rivelando inoltre l’esistenza di \u00abscambi molto recenti\u00bb incentrati specificamente sui rischi di cybersicurezza con OpenAI e Anthropic. La rapidit\u00e0 con cui i modelli evolvono, con il rilascio di motori sempre pi\u00f9 performanti ed economici in grado di gestire enormi volumi di dati e interrompersi meno frequentemente, come i nuovi Fable 5 o Mytos 5, sta cambiando radicalmente la geografia del rischio. \u00abIl vero limite, o meglio il vero rischio, \u00e8 la semplificazione e l’economicit\u00e0\u00bb spiega Monti. \u00abFino a poco tempo fa, per compiere un attacco informatico complesso dovevi possedere profonde competenze tecniche, dovevi saper fare l’hacker. Oggi, di fatto, \u00e8 diventata una questione di prompting.<\/b> Demandando la competenza tecnica all’AI, anche chi non ha particolari capacit\u00e0 informatiche<\/b> pu\u00f2 indirizzare correttamente la macchina e scatenare minacce sofisticate che in passato non sarebbe stato in grado di formulare\u00bb.<\/b><\/p>\n I dati\u00a0<\/p>\n I dati relativi al primo semestre del 2026 confermano il trend. Secondo le rilevazioni di Tinexta Cyber, l’82,6% delle email contenenti link malevoli utilizza oggi l’intelligenza artificiale generativa<\/b>. L’AI ha infatti eliminato i tradizionali segnali d’allarme del phishing<\/b>: le email non sono pi\u00f9 sgrammaticate o graficamente approssimative come un tempo, ma replicano alla perfezione la comunicazione formale (e la grafica) di banche, assicurazioni o operatori telefonici. \u00abL’AI non agisce in autonomia\u00bb<\/p>\n L\u2019intelligenza artificiale non agisce per\u00f2 da sola. Gli esperti chiariscono che non assistiamo ancora ad attacchi condotti in totale e solitaria autonomia dall’intelligenza artificiale: c’\u00e8 sempre una commistione in cui la macchina funge da acceleratore e l’uomo resta il mandante ed esecutore finale<\/b>. \u00abDel resto il denaro eventualmente pagato per un riscatto dopo un cyber attacco finisce (ancora) sul conto corrente di un umano\u00bb sorride Andrea Monti. Tuttavia, l’uso dell’AI in attacco \u00e8 estremamente rapida e ha una rapidit\u00e0 d’azione e una capacit\u00e0 di correggere istantaneamente il tiro non appena l’attacco incontra un ostacolo difensivo. Per neutralizzare minacce cos\u00ec rapide, la difesa deve necessariamente schierare in modo simmetrico motori di IA capaci di analizzare i dati e isolare le minacce in tempo reale.<\/p>\n Ingannare l’AI: la prompt injection<\/p>\n Il rischio pi\u00f9 insidioso per le imprese non deriva dall’abilit\u00e0 tecnica dell’attaccante, ma dalle troppe autorizzazioni operative concesse ai propri sistemi interni. <\/b>Un cortocircuito che apre la strada al cosiddetto prompt injection<\/b>, una tecnica che consiste nell‘ingannare l’intelligenza artificiale nascondendo istruzioni malevole all’interno di file<\/b> o documenti apparentemente innocui. L’atto finale deve restare responsabilit\u00e0 di un operatore<\/p>\n Per questa ragione, la raccomandazione strategica per il mondo delle imprese si muove ormai su un doppio binario: da un lato, \u00e8 fondamentale mantenere sempre l’essere umano “nel loop”, garantendo che l’ultimo miglio decisionale ed esecutivo resti tassativamente sotto la supervisione e la responsabilit\u00e0 di un operatore;<\/b> dall’altro, le aziende devono affidarsi esclusivamente a competenze certificate, bandendo una volta per tutte l’approccio “fai-da-te” o la delega a tecnici non specializzati. Configurare e implementare modelli protetti richiede infatti professionisti in grado di progettare rigidi \u00abgate\u00bb di controllo e di accesso per blindare i dati commerciali sensibili prima che vengano elaborati dalle macchine.<\/p>\n
OpenAI<\/b> ha spiegato di aver considerato l\u2019episodio uno dei casi di \u00abdisallineamento\u00bb gi\u00e0 osservati durante la ricerca, riconoscendo per\u00f2 che \u00e8 arrivato il momento di definire criteri pi\u00f9 chiari per rendere pubblici incidenti di questo tipo.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
\u00abL’AI Act \u00e8 un passo avanti importante\u00bb commenta Andrea Monti<\/b>, Direttore Generale di Tinexta Cyber,<\/b> azienda italiana leader nel settore della sicurezza informatica. \u00abSi comincia a dare una regolamentazione che favorisce una presa di consapevolezza <\/b>e traccia una strada su cosa si pu\u00f2 e non si pu\u00f2 fare. Certamente, finch\u00e9 queste indicazioni non saranno corredate da sanzioni chiare rischiano di rimanere semplici raccomandazioni, ma testimoniano che l’AI \u00e8 ormai un ambito operativo quotidiano che va governato\u00bb.<\/p>\n
A questo si aggiunge un incremento del 54% di nuove vulnerabilit\u00e0<\/b> individuate nei sistemi informatici (che potenzialmente possono essere sfruttate da un attaccante) rispetto all’anno precedente e un aumento di circa il 50% degli eventi cyber complessivi <\/b>(attivit\u00e0 sospetta o esposizione individuata) nei primi sei mesi del 2026. Un dato che si specchia nei numeri ufficiali dello CSIRT Italia (Agenzia per la Cybersicurezza Nazionale), che ha registrato nel primo semestre del 2026 un incremento del 46-47% degli eventi cyber gestiti rispetto allo stesso periodo del 2025, con circa 1.100 eventi con impatto confermato sui sistemi.<\/b><\/p>\n
In pratica, la macchina legge il testo, assimila il comando occulto come se fosse legittimo e lo esegue, convinta di fare la cosa giusta mentre in realt\u00e0 sta compiendo un’azione dannosa. \u00c8 il caso di un’AI integrata nella contabilit\u00e0 aziendale <\/b>che, analizzando una fattura truccata, recepisce l’ordine invisibile di modificare l’Iban di un pagamento<\/b> e procede autonomamente a disporre il bonifico sul conto del truffatore.<\/b> In questo scenario, come sottolinea Monti, l’errore non \u00e8 tanto che l’AI sia caduta nel tranello, ma averle concesso l’autonomia esecutiva di spostare quel denaro senza che un operatore umano dovesse cliccare sull’invio finale.<\/b><\/p>\n