Quali possono essere gli scenari che potrebbero verificarsi e mettere a repentaglio l’esistenza degli esseri umani? I timori degli scienziati e ingegneri che lasciano le compagnie di intelligenza artificiale per sollevare dubbi

In che modo l’AI potrebbe porre fine al mondo come lo conosciamo? Una domanda inquietante, ma anche spontanea, dopo i continui e reiterati allarmi da parte di ricercatori, esperti ed enti per la sicurezza contro i rischi dell’intelligenza artificiale. Da una parte, la stessa Anthropic ha più o meno involontariamente risposto a questo quesito, attraverso un rapporto condiviso recentemente, con tutti gli utilizzi sospetti e i veri e propri abusi dei propri sistemi da parte di milizie, Paesi, scienziati e così via. Non è la prima volta che un dilemma simile viene sollevato dagli esperti, ma sembra che l’ultimo appello, quello del ricercatore ventisettenne, Jacob Coxon, abbia portato ad una cascata di preoccupazioni, domande e dubbi. 

C’è da una parte chi è scettico e pensa che sia tutta una montatura, ma c’è anche chi prende sul serio gli utilizzi impropri e le minacce dell’AI. Se da un lato è legittimo porsi dubbi sul possibile conflitto di interessi delle compagnie di AI, specie in prossimità del debutto in borsa, dall’altra è anche vero che vi sono enti e organizzazioni in tutto il mondo che esortano i vari Paesi a fare di più per la sicurezza messa a repentaglio dall’intelligenza artificiale.
La denuncia di Coxon è d’altronde solo l’ultima in tal senso: lo scorso giugno XAi di Musk aveva licenziato un ingegnere proprio perché aveva segnalato – a suo dire – i rischi insiti in Grok, il modello dell’azienda. Ma segnali di pericolo, segnali teorici, erano già stati fatti emergere nel 2024 in un database dell’Mit: oltre 700 i rischi possibili che potrebbero emergere. Lo stesso Geoffrey Hinton, uno dei «padri» dell’intelligenza artificiale contemporanea, lasciato il suo ruolo a Google aveva iniziato a suonare l’allarme dal 2023, fino a ipotizzare lui stesso il rischio estinzione entro 20 anni, in un’intervista al Corriere della Sera. 



















































Non è come Skynet

Prima di capire come l’AI potrebbe essere pericolosa per l’umanità, tuttavia, per quanto sia affascinante l’idea seppur nella sua gravità, dobbiamo per un attimo dimenticare scenari alla Terminator e AI come Skynet. Studiosi, scienziati ed esperti hanno fondato e collaborano con organizzazioni che monitorano e segnalano gli usi impropri o le possibili derive. Un documento simile è l’International AI Safety Report 2026, commissionato dal Regno Unito. Nel rapporto si legge ad esempio il rischio che potrebbe derivare da un uso malevolo, anziché da una perdita di controllo, come si usa dire ad esempio quando l’AI porta a termine attacchi informatici al fine di raggiungere un obiettivo richiesto, magari, in fase di test. 

Secondo la ricerca, pubblicata lo scorso febbraio (quindi quasi un po’ anacronistica, considerando la velocità di miglioramento dei modelli) i sistemi attuali non sono in grado di provocare uno scenario in cui si verifica una perdita di controllo catastrofica. Ma è anche vero che, come detto precedentemente, il recente rapporto condiviso da Anthropic parla della possibilità di sviluppare armi biologiche attraverso i propri sistemi.

Preoccupazione per i Laws

Oltre ai già citati rischi biologici, esistono quelli legati ai sistemi d’arma autonomi applicati anche in guerra. 128 nazioni, come ha riferito su X il Ministro degli Esteri dei Paesi Bassi, Tom Berendsen, hanno raggiunto un accordo e chiesto che vengano introdotte delle restrizioni su questo tipo d’armi. Un accordo che Berendsen ha definito «un passo importante» verso la regolamentazione di questi sistemi, raggiunto nell’ambito di un’iniziativa delle Nazioni Unite. Attualmente non vi è una regolamentazione in tal senso, ma la misura si rende necessaria, spiega l’Onu, così da non violare il diritto internazionale umanitario, che vieta che i civili siano presi di mira nel corso dei conflitti.  

L’accordo arriva dopo i lavori iniziati nel 2023 in relazione all’impatto delle nuove tecnologie all’interno di quelli che vengono definiti Laws, Lethal Autonomous Weapon Systems (sistemi d’arma letali autonomi). Queste armi sarebbero in grado di «identificare, selezionare e ingaggiare un bersaglio con l’uso della forza, senza l’intervento di un essere umano». 

Un timore più che legittimo, anche considerando ai nuovi ingaggi di combattimenti che stanno avvenendo nel corso della guerra russo-ucraina. «Siamo ormai pericolosamente vicini a oltrepassare una linea rossa morale: la selezione autonoma di bersagli umani da parte di macchine», ha dichiarato il Segretario Generale dell’Onu António Guterres. Anche il Nist, il National Institute of Standards and Technology statunitense prende in considerazione il pericolo che l’AI possa sostituire l’uomo nella catena decisionale militare, nei sistemi di allerta nucleari, nei droni o nelle difese automatiche. 

Un errore o una manipolazione avversaria potrebbero portare ad un’escalation prima che gli esseri umani possano fermarla. La storia ci insegna, però, che gli errori dei sistemi informatici possono succedere anche senza l’AI. Come dimenticare l’eroico gesto del soldato russo Stanislav Petrov, che ricevette l’allarme da un sistema satellitare del lancio di cinque missili intercontinentali statunitensi diretti verso l’allora Urss? Era ovviamente un falso allarme, correttamente interpretato dall’allora tenente colonnello delle Forze di difesa aerea sovietiche.

Gli attacchi informatici

Tornando ai sistemi fuori controllo in ambito informatico, a preoccupare la possibilità che l’AI con capacità avanzate possa aumentare la velocità e entità degli attacchi. L’umanità potrebbe non essere totalmente a rischio in questo caso, ma se venissero colpite infrastrutture vitali ed essenziali contemporaneamente, ciò potrebbe portare a diverse crisi interconnesse con la possibilità che a farne le drammatiche spese siano ad esempio energia, finanza, settore sanitario, alimentare e trasporti. Un’eventualità che potrebbe derivare ad esempio dalla perdita di controllo su un sistema di intelligenza artificiale più avanzato di quelli attualmente in circolo. Per questo gli sforzi dei ricercatori e degli informatici si stanno concentrando sul cosiddetto allineamento, ovvero che i valori e gli obiettivi dell’intelligenza artificiale siano compatibili con quelli umani, così che possano essere affidabili, sicuri e utili.

La manipolazione

Tra i vari rischi vi è anche la possibilità che i sistemi possano manipolare gli esseri umani. A pensarci bene, non è nemmeno qualcosa di estremamente complesso. Quanti attacchi informatici e quante truffe hanno successo, grazie alle tecniche di ingegneria sociale, volte appunto a persuadere le vittime a fornire dati, soldi e informazioni strategiche?

L’AI questo aspetto potrebbe affinarlo in modo rilevante. Infine, l’ultimo scenario, quello più inquietante e pericoloso, è l’eventualità che tutti i rischi esposti precedentemente, si verifichino all’unisono. Attualmente, tuttavia, sembrerebbero preoccupazioni su eventi ipotetici, ma non è certo una novità che avvengano utilizzi impropri dell’intelligenza artificiale, come già dimostrato da Anthropic nei giorni scorsi, attraverso l’abuso dei propri modelli da parte di attori affiliati alla Russia, all’Iran, Cina e Yemen. 

Quel che è vero, però, è che come spesso accade, gli scienziati non sono concordi sul tema. C’è chi si preoccupa e lancia allarmi e chi invece sostiene che tutto ciò sia improbabile. Quel che però è certo è che i rischi attuali derivano dall’utilizzo improprio dell’intelligenza artificiale da parte dell’uomo e non da attività spontanee dell’AI stessa. Anche gli incidenti informatici degli ultimi mesi derivano da una serie di richieste che gli agenti hanno soddisfatto a qualsiasi costo.

Per non perdere le ultime novità su tecnologia e innovazione
iscriviti alla newsletter di Login

11 settembre 2026 ( modifica il 12 settembre 2026 | 14:27)

© RIPRODUZIONE RISERVATA