di
Massimo Gaggi

Il ceo di Open AI chiese più regole e poi cambiò idea. Il Nobel e «padrino dell’AI», Hinton, ha già lasciato Google per questioni morali

Quella che esplode in queste ore tra le mani di Dario Amodei è la contraddizione nella quale vivono da anni i creatori di un’intelligenza artificiale sempre più potente, difficile da controllare: da un lato bruciano dal desiderio di spingere più avanti possibile le frontiere della conoscenza, dall’altro cresce in loro la consapevolezza dei pericoli legati allo sviluppo di macchine in grado di sostituire l’uomo nel lavoro ma anche sul campo di battaglia, di seguire e spiare i cittadini in modo capillare e, forse, anche di sottrarsi al controllo di chi le ha create.

Entusiasmi e tormenti che ricordano quelli di Robert Oppenheimer e degli altri scienziati che crearono la bomba atomica: gioia scientifica, dubbi etici, il rapporto coi supervisori militari prima cameratesco, poi sempre più conflittuale. 



















































In realtà ci sono grandi differenze. Storiche (a Los Alamos si correva a perdifiato per l’urgenza imposta dalla guerra e il timore che il Terzo Reich arrivasse per primo all’arma nucleare) e materiali: l’atomica comporta un unico rischio specifico, per quanto immane, l’esplosione, e la sua proliferazione può essere controllata sorvegliando produzioni fisiche, tangibili: uranio arricchito, centrifughe, plutonio. 

L’AI, invece, può essere usata per impieghi violenti dei tipi più diversi: guidare sciami di droni verso un bersaglio, produrre armi batteriologiche, paralizzare reti elettriche o di comunicazione, alimentare robot guerrieri in grado di attaccare senza intervento umano. Possibili anche usi che darebbero altri colpi alle nostre già claudicanti democrazie: soprattutto sistemi di sorveglianza di massa basati su big data e riconoscimento facciale coi quali schedare i cittadini, quello che fanno, dove vanno. 

Non è fantascienza: basta guardare la Cina e il suo sistema di rating sociale. E, anche se si trovasse un accordo per impedire impieghi devastanti dell’AI sarebbe quasi impossibile verificarne il rispetto: nulla di fisico, verificabile, solo la consistenza impalpabile del software.

L’Amodei che sa tutto questo, ma continua ad accelerare sviluppando intelligenze sempre più potenti mentre continua a chiedere ai governi regole e guard rail contro i rischi esistenziali da lui denunciati (e anche quello di una massiccia distruzione di posti di lavoro) sembra sempre più un personaggio che starebbe bene nelle opere di Dostoevskij, Pirandello o Shakespeare: uno scienziato che vuole salvare il mondo dalla tecnologia che lui stesso sta costruendo.

Una contraddizione che trova spiegazione nella sua biografia: la convinzione che la tecnologia deve progredire alla massima velocità possibile resa granitica dalla morte del padre, ucciso da un male raro divenuto curabile poco dopo la sua scomparsa. Una ricerca un po’ più rapida l’avrebbe salvato. Amodei perciò accelera, ma chiede anche regole, vuole che la società e la politica comprendano la portata della rivoluzione in arrivo, preparandosi per tempo. E studia sistemi di sicurezza da inserire nei sistemi di Anthropic.

Amodei non è l’unico che si è posto questi problemi etici. Ci sono scienziati, da Joshua Bengio a Stuart Russell, che hanno già tolto il piede dall’acceleratore. Il caso più noto: il premio Nobel Geoffrey Hinton, definito il «padrino dell’intelligenza artificiale» ha lasciato la ricerca di Google per poter essere libero di denunciare i rischi ai quali si sta esponendo l’umanità. Anche gli imprenditori e i geni industriali della Silicon Valley vedono questi pericoli e in passato li hanno denunciati. Poi, però, ha prevalso la voglia di primeggiare, di conquistare profitti e potere. 

Vale per Elon Musk: il primo a denunciare, anni fa, il rischio dei robot-killer. E il primo, oggi, a «scaricare» Amodei: offre al Pentagono la sua xAI sperando di poter sostituire Anthropic. Ma il personaggio-chiave è Sam Altman di OpenAI. Quando lanciò ChatGPT girò il mondo chiedendo regole per una tecnologia che stava entusiasmando il mondo ma, avvertiva, poteva anche essere trasformata in un terribile strumento di distruzione. Oggi anche lui ha ridotto questi moniti a un sussurro, mentre è in prima fila nella galoppata tecnologica del governo Trump.

Quella di Amodei è così diventata una voce potente ma isolata che sfida l’apparato militare più potente del mondo rischiando rappresaglie pesantissime, forse mortali, per la sua azienda. Scivola in uno scenario da incubo: mentre lo accusano di minare la sicurezza nazionale e diventa una bandiera per qualche pacifista, lui, in realtà, ha già dato la sua tecnologia ai militari: è nel software della Palantir di Peter Thiel e Alex Karp, grandi fornitori di tecnologie militari e per i servizi segreti, alleati di Trump.

Amodei è, poi, convinto che le armi autonome sono ineluttabili. Vanno solo fatte maturare: la tecnologia attuale è ancora acerba, senza salvaguardie.

Le sue preoccupazioni sono fondate, ma il ministro della Guerra Pete Hegseth che lo attacca sembra avere, giuridicamente, il coltello dalla parte del manico: reclama mani libere nel testa tecnologico e militare con la Cina dove nessuno può obiettare, per ragioni etiche o altro. E rivendica il diritto di usare la tecnologia Anthropic «per tutti gli usi consentiti dalla legge». Amodei replica con un argomento giuridicamente irrilevante ma che deve farci riflettere tutti: «Gli usi dell’AI per sorveglianza e sviluppo di armi autonome sono legali solo perché le leggi non sono state adeguate alla realtà di nuovi strumenti di potenza inaudita».

Quanto alla sorveglianza di massa, con la tecnologia di Amodei, Palantir può creare sistemi penetranti di schedatura dei cittadini. Non è detto che avvenga, ma per capire l’aria che tira basta ascoltare il suo ceo, Karp: «Mi piace quando gridate contro di me, in Europa. In realtà dovreste ringraziarmi. Se non c’è qualcuno che si è frapposto tra me e voi con innumerevoli attacchi terroristici è grazie alla nostra tecnologia. Se non li avessimo fermati, oggi vivreste in una realtà politica molto diversa».

27 febbraio 2026 ( modifica il 27 febbraio 2026 | 23:16)

© RIPRODUZIONE RISERVATA