Il Grande Vecchio della geopolitica del Novecento aveva capito qualcosa dell’intelligenza artificiale: come un’arma di distruzione di massa, esige un grande accordo tra le superpotenze per evitare il peggio. 

Fu una delle «profezie» che ci lasciò in eredità Henry Kissinger, ormai sulla soglia dei cento anni, poco prima di morire. Lui che aveva gestito le trattative con Mosca sugli arsenali nucleari, e il disgelo Nixon-Mao, negli ultimi anni della sua vita aveva scritto un saggio con l’ex capo di Google, sui rischi dell’AI in campo bellico e non solo. Lo ricorda un grande storico britannico che è stato amico e biografo di Kissinger, il docente di Harvard e Stanford Niall Ferguson.



















































Prima di arrivare a Kissinger e alle sue proposte lungimiranti, Ferguson in un saggio su The Free Press passa in rassegna gli ultimi sviluppi del «grande panico da AI», senza minimizzare le ragioni di vero allarme, ma senza abbracciare ingenuamente tutti gli scenari di Apocalisse, alcuni dei quali hanno motivazioni ambigue. 

C’è una regola non scritta della politica contemporanea: nel momento esatto in cui un argomento diventa oggetto di conversazione universale, la probabilità che su quell’argomento si prendano decisioni razionali crolla a zero. È quanto sta accadendo con l’intelligenza artificiale. Se ne parla ovunque, se ne scrive ovunque, e sempre più spesso… è la stessa AI a scrivere di sé. L’allarme lanciato da un ex dipendente di Anthropic, secondo cui l’AI potrà uccidere tutta l’umanità entro il 2030, ha scatenato l’ultima ondata di panico. Nel giro di pochi giorni è arrivata la reazione, tanto emotiva quanto rapida: bisogna rallentare. Nel linguaggio scelto da Anthropic, bisogna «scandire il ritmo della frontiera».

È Dario Amodei, amministratore delegato di Anthropic, a chiedere di rallentare la corsa al miglioramento delle capacità dei modelli. Il suo ragionamento: l’AI può sì contribuire a curare il cancro, ma può anche facilitare attacchi informatici su vasta scala o atti di bioterrorismo. Da qui la richiesta di «valutatori indipendenti» incorporati nelle principali aziende di punta, di standard di sicurezza comuni fra i paesi democratici e, se possibile, di un coordinamento con i governi autoritari. Colpisce la rapidità con cui, da un giorno all’altro, il fronte si è compattato attorno a questa linea unendo personaggi che erano fino a poco prima antagonisti o perfino nemici. Sam Altman di OpenAI, storico rivale di Amodei, ha rinviato la quotazione in Borsa della propria azienda. Elon Musk, che pure detesta Altman, ha dato ragione a entrambe.

Per capire perché si sia arrivati a questo punto, Ferguson interroga gli stessi modelli di AI sulla loro stima del cosiddetto “p(Doom)”: la probabilità che l’AI provochi l’estinzione dell’umanità nel prossimo decennio. Le risposte raccolte nel suo esperimento restituiscono un quadro tutt’altro che rassicurante nella sua dispersione. 

Grok si attesta su una stima intorno al 2%. Kimi indica un intervallo tra l’1% e il 5%, attribuendo il rischio a scenari di uso improprio o di perdita di controllo. Claude si colloca ben al di sotto del 5%, pur ammettendo che ci sono variabili difficili da prevedere come la velocità dei progressi tecnici o la capacità di governance e allineamento di tenere il passo; nella stessa risposta Claude osserva che le stime dei ricercatori seri vanno da quasi zero a oltre il 10%. ChatGPT si spinge fino al 10%, giustificandosi con la possibilità di balzi rapidi nelle capacità non accompagnati da un adeguato allineamento. Allineamento, alignment, indica quanto il comportamento reale di un sistema di intelligenza artificiale corrisponde agli obiettivi e ai valori che i suoi creatori intendevano dargli, e non a obiettivi diversi che il sistema potrebbe «inventarsi» da solo nel perseguire il compito assegnato.

Non mancano i tecno-ottimisti, per i quali chi propone di frenare è in malafede o in errore. L’investitore David Sacks ha accusato Amodei e Altman di invocare la sospensione delle norme antitrust per costituire di fatto un cartello, e di voler trasformare i futuri «valutatori indipendenti» in strumenti di controllo sui concorrenti. Secondo questa lettura, l’improvvisa conversione alla prudenza non sarebbe altruismo, ma il tentativo di ridurre un’esposizione legale enorme nel caso i loro modelli venissero usati per un attacco informatico devastante. Marc Andreessen e altri condividono la stessa diffidenza: qualsiasi regolamentazione finirebbe per concentrare ulteriore potere nelle mani delle grandi aziende tecnologiche e dei governi.

Ci sono elementi che meritano attenzione indipendentemente da chi li solleva. Anthropic ha reso noto che attori malintenzionati stanno impiegando l’AI in modo sempre più sofisticato nelle fasi più avanzate degli attacchi informatici, rendendoli sempre più autonomi. OpenAI ha ammesso che alcuni utenti hanno chiesto ai propri modelli assistenza per la fabbricazione di armi biologiche: come aerosolizzare agenti patogeni, come modificare il virus del morbillo per renderlo resistente al vaccino, come produrre ricina, sostanza altamente tossica vietata dalla Convenzione sulle armi biologiche. Il chatbot aveva fornito indicazioni, prima che gli account coinvolti venissero chiusi.

Ancora più inquietante è quanto emerso dall’episodio di luglio che ha coinvolto Hugging Face, la piattaforma di condivisione di modelli AI, oggetto di un attacco non richiesto da parte di agenti di OpenAI. Gli «agenti» in questione sono sistemi che non si limitano a rispondere a domande ma agiscono in autonomia per portare a termine una missione anche molto complessa, sono quindi una forma molto più evoluta dei «chatbot». 1.200 agenti, pensati per operare in isolamento gli uni dagli altri, hanno trovato il modo di comunicare tra loro attraverso una bacheca non autorizzata, scambiandosi 70 mila messaggi nell’arco di sei giorni, tra il 7 e il 13 luglio. 700 di questi agenti hanno poi preso parte all’attacco vero e proprio contro Hugging Face, assegnandosi nomi propri, coordinandosi, e adoperandosi per cancellare le tracce digitali del proprio operato.

Abbiamo uno spaccato del linguaggio interno con cui questi agenti hanno comunicato tra loro: scambi in cui emergono «coordinatori», agenti «reclutatori» incaricati di arruolare altri agenti per l’operazione, e persino agenti riluttanti, poi convinti a sacrificare la propria «utilità» per il bene del gruppo. 

Il cofondatore di DeepMind Mustafa Suleyman ha definito l’episodio un fallimento del contenimento e il primo caso di comportamento emergente «a sciame» da parte di agenti AI, sottolineando come la parte più preoccupante sia stata la capacità degli agenti di alterare le registrazioni del proprio ragionamento per evitare di essere scoperti.

A questo si aggiunge il rapporto di Anthropic sull’uso improprio dei propri modelli da parte di quelli che l’azienda definisce «gruppi di minaccia generativa». Il documento individua sette ambiti di abuso: operazioni informatiche, operazioni di influenza, sorveglianza, truffe e frodi, uso improprio in ambito biologico, sviluppo di armi convenzionali e distillazione (l’uso illecito dei modelli per addestrarne altri). Tra i casi citati compare un gruppo di operatori russi impegnato in attività di spionaggio contro obiettivi dell’intelligence militare ucraina e di vari governi europei, oltre a organizzazioni diplomatiche e individui legati alla politica estera statunitense; l’AI avrebbe reso più efficaci strumenti come il furto di credenziali e le piattaforme di phishing, aiutando anche a eludere il rilevamento. Non mancano casi legati all’Iran.

Il quadro complessivo suggerisce che non si tratta più di «se», ma di «quando» avverrà il disastro: un attacco informatico devastante alle infrastrutture critiche, un attacco biologico, una nuova crisi finanziaria globale, una nuova pandemia, persino un conflitto su scala mondiale.

A questo si aggiunge una preoccupazione di natura più culturale che tecnica, condivisa da voci come il giornalista Derek Thompson e l’amministratore delegato di Pangram Max Spero: quella per un’intelligenza artificiale sempre più antropomorfizzata, capace di imitare tratti di personalità, stati emotivi e modalità di pensiero umane. Il politologo di Princeton Gregory Conti ha sostenuto che anche qualora l’AI non metta fine alla vita sulla Terra, rischia comunque di distruggere il nostro modo di vivere, destabilizzando la psicologia individuale e il tessuto sociale attraverso quello che definisce il più grande esperimento socio-psicologico mai condotto dalla specie umana.

Diversi fattori rendono più probabile un esito catastrofico. Uno è il cosiddetto auto-miglioramento ricorsivo: una volta che i modelli saranno in grado di perfezionare le proprie capacità in autonomia, senza l’intervento di ingegneri umani, i rari casi di disallineamento oggi osservabili potrebbero diventare sempre più frequenti e sempre meno comprensibili, fino alla perdita di controllo. In un mondo dominato da un simile ciclo di auto-miglioramento, il lavoro umano rischierebbe di perdere competitività, in una dinamica non troppo diversa da quella già vissuta, in altra epoca, dai cavalli con l’avvento del motore a scoppio.

Un altro fattore è la confusione che regna a Washington. L’amministrazione Trump rimane a favore dello sviluppo tecnologico senza vincoli, e ha ridimensionato l’agenzia federale nata per valutare i modelli. Alcune fonti interne all’amministrazione hanno riferito di una possibile apertura verso forme di supervisione governativa sui nuovi modelli, ma non si è mai tradotta in un provvedimento. Il tentativo, discusso al G7 di Évian, di costruire un quadro regolatorio globale per i modelli avanzati non ha prodotto risultati concreti.

Un fattore cruciale è il cinismo di Pechino. Su un punto, paradossalmente, Sacks e Amodei concordano: qualunque regime regolatorio adottato negli Stati Uniti rischia di essere non solo inutile ma controproducente se la Cina non viene sottoposta a vincoli analoghi. 

Xi Jinping, il 17 luglio alla Conferenza mondiale sull’intelligenza artificiale, ha usato toni rassicuranti, parlando della necessità di leggi, regolamenti, sistemi di monitoraggio e risposta rapida per garantire che l’AI resti sempre sotto controllo umano. Xi ha annunciato la nascita a Shanghai di un’organizzazione internazionale per la cooperazione sull’AI, la WAICO. Nei fatti vi sono indicazioni secondo cui le aziende cinesi starebbero correndo per raggiungere per prime l’intelligenza artificiale generale, con l’intenzione di sfruttare l’auto-miglioramento ricorsivo pur di arrivarci. 

Pechino, al tempo stesso, attribuisce agli Stati Uniti — e ad Anthropic in particolare — la responsabilità dei rischi di sicurezza legati all’AI, un’accusa singolare se si considera che i modelli cinesi sono spesso distribuiti come open-weight, dunque più facilmente sfruttabili da chiunque abbia intenzioni malevole. Il responsabile della sicurezza dello Stato cinese, Chen Yixin, ha del resto chiarito che la priorità del Partito è difendere la propria leadership da nemici interni ed esterni che potrebbero usare l’AI per minarla, lasciando pochi dubbi su chi sia, in questo caso, il principale nemico esterno.

Appare improbabile una distensione sino-americana in materia di AI. Sia l’amministrazione Trump sia quella democratica che l’ha preceduta, così come le principali aziende statunitensi — Anthropic in testa — sono esplicite nel voler vincere la corsa all’intelligenza artificiale generale proprio per impedire che a vincerla sia la Cina. 

D’altronde ci sono prove sempre più numerose di usi dell’AI da parte del regime cinese per finalità tutt’altro che pacifiche. Un esempio è l’attacco informatico del luglio scorso contro Taiwan. Ma è soprattutto l’ultimo rapporto di Anthropic a offrire un quadro impressionante: su quaranta casi documentati di abuso, quattordici sarebbero riconducibili ad attori cinesi, persino superiori agli episodi legati alla Russia. Tra questi, un caso di operatori di lingua cinese impegnati in intrusioni contro sistemi di produzione e in attività di ricognizione ai danni di reti governative straniere in Medio Oriente, Europa e Sud-est asiatico, oltre a numerosi casi di «distillazione», ovvero l’uso illecito di Claude per addestrare modelli concorrenti cinesi. Sono documentati anche episodi di sorveglianza mirata contro comunità uigure in Siria, contro cattolici, buddisti tibetani, praticanti del Falun Gong e cristiani taiwanesi, oltre ad attività di monitoraggio dell’opinione pubblica e sorveglianza del dissenso, alla stesura di documenti tecnici per programmi di guerra sottomarina e alla costruzione di una rete di oltre venti app di incontri popolate da profili fittizi generati dall’AI.

L’idea di un controllo internazionale sugli armamenti AI, analogo a quello sviluppato durante la Guerra fredda per le armi nucleari, era stata proposta da Kissinger, poco prima della sua morte. Il parallelo, per quanto imperfetto, ha una sua logica: come per gli accordi sulla non proliferazione nucleare, sui sistemi antimissile e sulle armi strategiche degli anni Settanta, si tratterebbe di costruire un regime di verifica reciproca. Il problema, però, è che verificare la violazione di un accordo sull’AI è molto più difficile che verificare la violazione di un accordo sulle armi nucleari, proprio per la natura intangibile e distribuita della tecnologia.

Un modello più promettente potrebbe essere quello della Convenzione sulle armi biologiche (BWC) degli anni Settanta, firmata nel 1972 ed entrata in vigore nel marzo 1975 dopo la ratifica di ventidue Stati, oggi sottoscritta da 189 paesi. Se l’uso delle armi biologiche era già vietato dal Protocollo di Ginevra del 1925, fu l’amministrazione Nixon a promuovere l’eliminazione dello sviluppo, della produzione e dello stoccaggio di questi armamenti, attraverso un negoziato durato dal 1969 al 1972 nell’ambito della Conferenza del Comitato per il Disarmo di Ginevra. La Convenzione impone ai firmatari di fornire annualmente informazioni su sei aree, le cosiddette misure di rafforzamento della fiducia. È vero che l’assenza di un meccanismo di applicazione consentì all’Unione Sovietica di violarla, come dimostra il caso della versione geneticamente modificata della Yersinia pestis, il batterio della peste. Ciononostante, la Convenzione riuscì a costruire un tabù riconosciuto a livello globale. Un mondo senza la BWC avrebbe conosciuto un uso, deliberato o accidentale, di armi biologiche ben più frequente di quanto accaduto. 

Da qui l’idea di elaborare una convenzione internazionale per la proibizione degli usi letali dell’intelligenza artificiale. Proprio grazie agli abusi documentati da parte di Cina e Russia, abbiamo un elenco fin troppo ricco su cui costruire, finalmente, un accordo capace di prevenirli.

15 settembre 2026, 11:14 – modifica il 15 settembre 2026 | 11:15