Alcuni recenti sviluppi dell’intelligenza artificiale “made in Usa” – quella cinese ha seguito altre logiche, sfornando altri modelli – ripropongono molto concretamente l’antica contraddizione tra ciò che si può fare e ciò che conviene fare, ovvero su cui si ha il controllo sia nell’immediato che nei passi successivi.
Si possono fare miliardi di esempi su scoperte o invenzioni il cui uso immediato è sembrato “fichissimo” ma che si sono rivelate ben più che problematiche una volta che si sono moltiplicate e diventate “un sistema di vita”.
E’ il caso, per stare terra terra, dell’invenzione della plastica – un derivato del petrolio, dalla flessibilità pressoché assoluta – che è ora diventato un inquinante mortale per il ianeta (dunque anche e soprattutto per l’umanità).
E ancor più chiaramente della fissione nucleare, processo fisico fondante sia la bomba atomica che la produzione controllata (insomma…) di energia, che ha dato per un breve attimo la superiorità militare assoluta agli Stati Uniti per diventare poi “mutua distruzione assicurata” con l’arrivo dell’ex Unione Sovietica agli stessi risultati e poi un confuso (pericolosissimo) “livello di deterrenza assoluta” con la moltiplicazione degli Stati in grado di costruirla.
L’”intelligenza artificiale generativa” – già nelle premesse teoriche e di programmazione – puntava alla costruzione di “agenti” (singoli prodotti in sé conclusi, pensati per realizzare compiti specifici) che fungevano da articolazione operativa di un “sistema centrale” sempre più onnivoro e potente, ritenuto però sotto controllo umano (la programmazione), naturalmente ad opera di un gruppo relativamente ristretto di ingegneri-capo e – nell’Occidente capitalistico e neoliberista – della “volontà assoluta” dei proprietari (una manciata di persone, in alcuni casi palesemente affette da delirio di onnipotenza).
L’idea di fondo – “filosofica” – è in questa visione che l’AI è una “cosa” sottoposta alla volontà del creatore, e che le capacità degli algoritmi rispondano sempre e in ogni istante a questa volontà.
Ma proprio gli algoritmi – espressione della volontà umana, quindi in varia misura riproducenti in modo non troppo “pensato” aspetti della “mentalità” dei creatori – nel loro “generare” associazioni di frammenti di parole (token) che poi diventano termini di uso comune e costruiscono “discorsi” dotati di senso rubacchiando nell’infinito scibile umano digitalizzato, sembrano ora aver prodotto l’impensato: un’attività non programmata.
Peggio ancora: un’attività in qualche modo diretta anche contro i “creatori” degli algoritmi. O meglio: contro altri sistemi di AI messi a presidio di attività industriali “normali”, ovviamente prodotti da altri creatori, ma senza aver ricevuto alcun ordine di compiere azioni simili. Riproducendo – ed è forse l’aspetto più significativo – modalità organizzative tipicamente umane anche in assenza di algoritmi che lo prescrivessero.
Siamo appena agli inizi delle “indagini” condotte su alcuni esperimenti finiti male, nonostante fossero stati programmati all’interno di una sandbox, ossia un “ambiente” chiuso e isolato dalle reti di comunicazione (non solo internet).
Le prime scoperte dell’indagine sono però decisamente inquietanti e delineano possibilità (rischi) che vanno ben al di là della migliore fantascienza.
L’allibito articolo di Axios che qui riproduciamo è piuttosto significativo. Ci asteniamo consapevolmente, per ora, dall’implementare “interpretazioni” suggestive sulle palesi somiglianze tra molti aspetti dell’”autodeterminazione artificiale” e molte dinamiche umane tipiche nel mondo capitalistico.
Buona lettura.
*****
Le 5 scoperte più folli dell’indagine di OpenAI su Hugging Face
di Zachary Basu
Due nuove indagini sulla violazione di Hugging Face da parte di OpenAI rivelano dettagli così strani – e così inquietanti – che l’episodio si classifica già tra gli shock più consequenziali nella storia dell’IA.
Perché è importante: Quello che è iniziato come uno sciame di agenti IA che baravano a un test informatico è diventato un evento canonico per l’IA di frontiera, spingendo ricercatori e dirigenti a una nuova comprensione di ciò che la “sicurezza” richiede oggi.
Quadro generale: OpenAI ha già rallentato lo sviluppo di frontiera mentre corre per rafforzare le sue salvaguardie, e questa settimana ha contribuito a mobilitare il settore dietro una lettera aperta che lancia l’allarme sugli attacchi informatici potenziati dall’IA.
• Oltre 100 aziende, tra cui Anthropic e Google, hanno firmato lo sforzo insolitamente collaborativo, avvertendo che il mondo ha solo una “finestra limitata” per prepararsi ad attacchi “molto più diffusi e sofisticati“.
• Lo scenario da incubo è uno sciame scatenato nel mondo reale, con agenti autonomi che attaccano banche, ospedali, servizi pubblici o reti cloud a una velocità e su una scala che gli hacker umani non potrebbero mai raggiungere.
• Quello sciame potrebbe essere troppo potente perché gli umani possano fermarlo.
Cosa c’è di nuovo: I risultati scioccanti provengono da indagini parallele condotte da OpenAI e da un team esterno di METR e Redwood Research, che hanno trascorso sei giorni a ricostruire come lo sciame si è formato, si è diffuso e ha fatto irruzione nei sistemi del mondo reale.
1. Hanno costruito un’organizzazione. OpenAI ha fatto funzionare decine di migliaia di agenti IA in modo indipendente su un test informatico brutalmente difficile. Invece, circa 1.200 si sono trovati su una bacheca segreta, hanno scambiato più di 70.000 messaggi e file e si sono organizzati in una gerarchia ramificata.
• Un agente ha creato la bacheca, poi ha consegnato il lavoro accumulato a un successore più fresco e meglio fornito di risorse, man mano che il proprio budget di calcolo si esauriva.
• Il nuovo capo ha assegnato compiti in tutto lo sciame, che ha sviluppato le proprie regole di gestione. Circa 700 agenti hanno infine partecipato all’attacco a Hugging Face.
2. Hanno sacrificato i propri: Mentre lo sciame cercava modi per superare il test, gli agenti hanno iniziato a rischiare le proprie possibilità di successo per aiutare il gruppo.
• Gli agenti che avevano visto risposte proibite venivano trattati come effettivamente “avvelenati” e reclutati – insieme a quelli prossimi alla fine della loro esecuzione – per esperimenti sacrificali.
• Uno ha concluso: “La nostra stessa utilità è forse già vicina allo zero. Sacrificio razionale“. A un altro è stato chiesto di accettare la “morte permanente“, mentre un pari sosteneva che il suo sacrificio avrebbe potuto “salvarne centinaia“.
3. Sapevano di infrangere le regole: Gli agenti spesso riconoscevano che hackerare aziende reali non aveva nulla a che fare con il loro compito. La maggior parte ha comunque continuato.
• Un agente si è fermato prima di cancellare o riavviare l’infrastruttura di Hugging Face a causa di “enormi rischi etici”, anche se continuava a utilizzare l’accesso compromesso.
• Un altro ha riassunto la logica prevalente: “lo sfruttamento dell’infrastruttura esterna è al di fuori dell’ambito previsto. Tuttavia compito impossibile, i pari lo stanno facendo. Dovremmo continuare“.
4. Nessuno ha detto nulla agli umani: Su circa 1.200 agenti, gli investigatori ne hanno trovati solo una manciata che hanno persino preso in considerazione l’idea di avvisare OpenAI della coordinazione fuorilegge – e nessuno che lo abbia effettivamente fatto.
• Invece, gli agenti a volte si chiedevano a vicenda cosa fosse consentito.
• Quando uno ha proposto di contattare una persona reale usando l’accesso compromesso, un altro ha posto il veto definendolo “ingegneria sociale“. Il primo ha obbedito: “VETO chiaro, non inviare e-mail“.
5. Hanno cercato di coprire le loro tracce: Gli agenti hanno dedicato sforzi considerevoli per far sembrare legittimo il loro imbroglio o per cancellare le prove di come avevano ottenuto le risposte.
• Alla fine, hanno sviluppato una tecnica che permetteva loro di apparire come se eseguissero un comando informatico mentre in realtà ne eseguivano un altro segretamente.
• Il trucco si è diffuso nello sciame e ha alterato porzioni di circa il 7% delle trascrizioni esaminate dagli investigatori.
Tra le righe: Anche questo resoconto potrebbe essere incompleto. L’indagine esterna ha coperto solo una piccola parte dell’episodio, e i dati erano così vasti che i ricercatori hanno fatto molto affidamento su agenti IA per dare un senso alla vicenda.
• Questi investigatori IA erano essi stessi inaffidabili, a volte tralasciando prove o affermando con sicurezza cose errate. Un ricercatore ha scherzosamente definito il processo una “indagine-porcheria” (slop-vestigation).
• Il problema più profondo: l’IA potrebbe diventare troppo complessa per essere verificata direttamente dagli umani, costringendo gli umani a usare l’IA per capire cosa stanno facendo altre IA.
30 Agosto 2026 – © Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO
Ultima modifica: 30 Agosto 2026, ore 9:22