Il colloquio con il noto critico dell’AI generativa: «OpenAI alla fine non si quoterà e verrà venduta. Anthropic già ridimensionata »
Una versione estesa di questa conversazione con Gary Marcus, professore emerito di psicologia e scienze neurologiche alla New York University e critico dell’AI generativa, si è svolta durante l’evento “AI Beyond the Hype – From Intelligence to Epistemia” organizzato dalla Sapienza Università di Roma.
Qualche giorno fa ha incontrato Papa Leone XIV e lo ha definito il pensatore più lucido sull’intelligenza artificiale tra i leader mondiali. Perché?
«Risponderò raccontando di un documentario a cui ho partecipato più tardi quello stesso giorno, dopo aver incontrato il Papa. Mi hanno chiesto di leggere ad alta voce il paragrafo 99 dell’enciclica Magnifica Humanitas, una bellissima sintesi del perché non dovremmo pensare all’intelligenza artificiale attuale come a una coscienza. Del perché dovremmo capire che si tratta di macchine statistiche. E penso che l’enciclica nel suo complesso colga davvero nel segno. Coglie il fatto che l’AI potrebbe avere un valore se fosse sviluppata a beneficio dell’umanità, ma che, se lasciamo che le cose seguano il loro corso, non sarà sviluppata a beneficio dell’umanità nel suo insieme, bensì il potere si concentrerà nelle mani di un piccolo numero di persone. Negli ultimi anni ho incontrato molti leader di governo, alcuni sono moderatamente interessati a quello che sta succedendo, ma pochissimi si prendono il tempo di comprenderlo davvero a fondo. E Papa Leone lo ha fatto».
Definirebbe la sua visione ottimistica riguardo al futuro dell’AI?
«È una questione piuttosto complicata. C’è una visione ottimistica del futuro dell’umanità, in cui l’intelligenza artificiale aiuta davvero. Ma si può essere pessimisti sulla possibilità di arrivarci, e forse realistici nel riconoscere che non è lo scenario che si realizzerà automaticamente, che non ci arriveremo da soli, che dovremmo cambiare rotta per arrivarci. E penso che l’enciclica colga tutti questi aspetti».
APPROFONDISCI CON IL PODCAST
Dopo l’incontro ha condiviso alcune riflessioni sulla natura dell’intelligenza. Hai sottolineato che l’intelligenza non è una cosa sola, ma molte diverse. Partiamo da qui: di quale tipo di intelligenza stiamo parlando quando la confrontiamo con l’AI?
«La citazione viene da Chaz Firestone e Brian Scholl. Dicono che l’intelligenza non è una cosa sola, ma molte, e fanno una serie di esempi. Ve ne propongo alcuni: l’intelligenza è essere capaci di stare qui in piedi e avere questa conversazione, oppure essere là fuori ad ascoltare. Può essere risolvere problemi matematici. Può essere giocare a scacchi. Può essere entrare in una stanza e capire le motivazioni e le intenzioni delle persone, capire se stanno mentendo o perché stanno facendo quello che stanno facendo. E quello che abbiamo visto nel campo dell’intelligenza artificiale, tornando agli anni Cinquanta, quando le venne dato per la prima volta questo nome, è che l’AI può svolgere alcuni aspetti dell’intelligenza, ma non tutti. C’erano già i primi esempi, che nessuno sembra ricordare, di AI che dimostrava teoremi che non erano mai stati dimostrati prima. Improvvisamente sembra che OpenAI lo stia facendo per la prima volta, e Anthropic in misura minore. Accade perché le persone non conoscono la storia.
Poi, i computer sono molto bravi a giocare a scacchi, da molto tempo. Non che fossi un grande giocatore di scacchi, ma intorno al 1986 Deep Thought era in grado di battermi facilmente, senza alcun problema. A proposito, una volta ho giocato contro Garry Kasparov e mi ha battuto mentre giocava contro altre venti persone, e non è stato difficile per lui. Ma poi, nel 1997, è stato sconfitto da un’altra macchina per giocare a scacchi (Deep Blue, ndr), e sono usciti sui giornali articoli di ogni tipo che sostanzialmente dicevano che il mondo stava per finire perché questo tizio davvero brillante, Kasparov, era stato battuto a scacchi.
La conclusione che molte persone ne hanno tratto è stata: se Kasparov può essere battuto a scacchi, allora presto qualsiasi intelligenza artificiale, o l’intelligenza artificiale in generale, sarà in grado di fare qualsiasi cosa possa fare un essere umano. Sentiamo ancora oggi gli echi di quell’argomentazione, ma non è vera.
Infatti, eccoci qui quasi vent’anni dopo, e il numero di lavori che sono stati effettivamente sostituiti dall’intelligenza artificiale è molto piccolo. Nemmeno il maestro di scacchi è stato sostituito dall’intelligenza artificiale. Abbiamo ancora esseri umani che giocano a scacchi. Kasparov ha cambiato lavoro, ma al suo posto c’è Magnus Carlsen.
Un termine che abbiamo nel settore è intelligenza ristretta, cioè un’intelligenza artificiale che può fare bene una cosa particolare, ma non altri aspetti dell’intelligenza. E implicito in questa definizione di intelligenza ristretta c’è il fatto che esistono altri tipi di intelligenza.
Così, intorno al 2000, alcuni coniarono il termine intelligenza artificiale generale, come reazione a tutta l’intelligenza ristretta che avevamo visto per decenni nell’AI. E c’era grande frustrazione perché questi sistemi sapevano sì giocare a scacchi, ma c’erano tante altre cose come le scoperte scientifiche o nella medicina che non erano in grado di fare.
Persino quando giocavano a scacchi non avevano davvero la sofisticazione di un essere umano, anche se potevano batterlo. Ma avevano più forza bruta.
Dissero che sarebbe servita un’intelligenza artificiale generale, che, potrebbe fare qualsiasi cosa possa fare un essere umano. E ora viviamo in un’epoca in cui alcune persone pensano che sia vicina. Io penso che si sbaglino.
Abbiamo qualcosa che sta nel mezzo, abbiamo questi chatbot che possono rispondere a qualsiasi domanda, ma lo fanno in un modo a cui nessuno di noi aveva pensato nel 2000: lo fanno in maniera inaffidabile. Avevamo visto tutti Star Trek, e in Star Trek c’era un computer che dava le risposte giuste. Non si inventava le cose. Ora abbiamo questo tipo di intelligenza artificiale. Non è intelligenza ristretta, perché può fare più di una cosa, ma non è molto affidabile. E quindi non vorrei nemmeno chiamarla intelligenza artificiale generale.
Si inventa cose su qualsiasi argomento. Ha allucinazioni, per usare il termine che è diventato popolare. A volte ha ragione, a volte ha torto. Nessuno nell’anno 2000 pensava davvero all’intelligenza artificiale generale come a questo tipo di approssimazione statistica che a volte funziona e a volte no.
Esistono alcune forme di intelligenza artificiale che fanno le loro cose in modo affidabile. Per esempio i sistemi di navigazione GPS ti danno un percorso dal punto A al punto B, e sono molto prevedibili. Non entreranno illegalmente nel sito web di qualcun altro, come stanno facendo attualmente alcune altre forme di intelligenza artificiale.
Un altro esempio: AlphaFold. Non ha mai violato un sito web, giusto? Fa semplicemente una cosa, piuttosto impressionante: prende la sequenza dei nucleotidi in un gene e capisce a quale proteina corrisponde e quale forma avrebbe. Non è perfetto, ma è piuttosto affidabile. Va molto oltre quello che qualsiasi singolo essere umano potrebbe fare. Si può definire una forma di intelligenza, ma ci manca ancora chiaramente qualcosa per quanto riguarda una forma di intelligenza artificiale che possa fare qualsiasi cosa vogliamo e della cui risposta possiamo davvero fidarci. Quindi, in realtà, oggi la questione riguarda la fiducia.
Abbiamo una forma di intelligenza artificiale inaffidabile che ha convinto molte persone che valga essenzialmente una quantità infinita di denaro. In molti hanno scambiato queste macchine di approssimazione statistica per qualcosa di quasi magico.
Ma c’è molto altro che dobbiamo capire prima di avere qualcosa a cui possiamo davvero dire: “Ehi, ho questo nuovo problema a cui nessuno ha mai pensato prima. Puoi andare a risolverlo per me, intelligenza artificiale?” E poi fidarci davvero della risposta, invece di dover passare in rassegna e controllare ogni passaggio del suo lavoro».
APPROFONDISCI CON IL PODCAST
In un paper che ha recentemente pubblicato con Valerio Capraro e Walter Quattrociocchi, si chiede se il test di Turing sia davvero e ancora il modo migliore per testare le capacità di una macchina.
«Il test di Turing è un test terribile, progettato nel 1950. Penso che molte persone saranno d’accordo su questo. È stato il peggior lavoro di Turing. Turing era assolutamente brillante. Tutti dovrebbero andare al museo di Bletchley Park e vedere come decifrò la macchina Enigma. Ha svolto un lavoro davvero fondamentale nell’informatica. Scrisse questo saggio molto strano, ma interessante. In realtà non propose un solo test, ma nove varianti diverse. La versione del test di Turing che tutti hanno in mente è sostanzialmente questa: si confronta un computer con una persona e, se il computer riesce a ingannare una terza persona, un giudice, facendogli credere che sia una persona, allora si dice: “Allora deve essere intelligente”.
Quello che il campo dell’informatica aveva capito già nel 1965 era che non si trattava di un test molto buono, perché gli esseri umani in realtà si lasciano ingannare facilmente. Se ci pensate, non ci siamo evoluti per essere capaci di distinguere una persona da una macchina, e la maggior parte delle persone non viene addestrata a farlo a scuola. È davvero un test della credulità umana. Si scopre che gli esseri umani possono essere piuttosto creduloni.
Nel 1965 accadde che Joseph Weizenbaum realizzò un sistema di intelligenza artificiale molto elementare che individuava parole chiave, un po’ come faceva Google Search fino a qualche anno fa, e ingannò alcune persone facendo credere loro che fosse un cosiddetto psicoterapeuta rogersiano.
Funzionava così: per esempio, qualcuno diceva «fidanzato» e lui rispondeva: «Be’, raccontami qualcosa di più della tua relazione». Non capiva quello che stavi dicendo sul tuo fidanzato. Sapeva soltanto che “relazione” era una buona parola da usare dopo “fidanzato”. Era un sistema molto stupido, ma le persone ci parlavano. Non prendevano in considerazione che potesse esserci una macchina dall’altra parte e cominciavano a riversarci i propri problemi. Un sistema non molto intelligente che dimostrò che la credulità conta.
Nel 2014, scrissi un articolo sul New Yorker intitolato, After the Turing Test oppure Beyond the Turing Test, subito dopo che un sistema di intelligenza artificiale aveva presumibilmente vinto, superato, il test di Turing. Si chiamava Eugene Goostman, quello che faceva era fingere di essere, in un contesto di lingua inglese, un ragazzo di tredici anni di Odessa. E utilizzava battute sarcastiche per aggirare il fatto che in realtà non era intelligente. Quindi gli facevi una domanda e lui rispondeva qualcosa del tipo: “Pensi davvero che te lo dirò?”.
Immaginate quindi una specie di adolescente saputello. E questo ingannava alcune persone, facendo loro credere che fosse una vera intelligenza artificiale, ma erano tutte cose più o meno preparate in anticipo. Come scrissi all’epoca, i trucchi che utilizzava non avrebbero aiutato a risolvere problemi medici. E che dovevamo effettivamente sostituire il test, avevamo bisogno di un’alternativa. E parlai di quello che chiamo comprehension challenge, la sfida della comprensione.
Il mio vero criterio era: “Mostratemi un sistema di intelligenza artificiale che possa guardare un episodio dei Simpson e sapere quando ridere”. E nessuno ha mai risolto questo problema. Oppure un altro esempio è essere capaci di leggere un romanzo e capire che cosa sta succedendo. Ci sono stati alcuni progressi in questo, ma la realtà è che gli attuali sistemi di intelligenza artificiale non hanno una comprensione profonda delle cose a cui sono esposti. Hanno una comprensione superficiale.
Quello di cui abbiamo scritto (con Capraro e Quattrociocchi, ndr) è che l’intero settore è stato un po’ distorto dal test di Turing. Alcune persone pensano che sia così che si capisce di avere un’intelligenza. Ora ci sono moltissimi articoli che si possono leggere come argomentazioni a favore del fatto che i sistemi di intelligenza artificiale abbiano superato il test di Turing. Ma questo continua a non dirci davvero nulla sull’intelligenza artificiale e non sta nemmeno facendo qualcosa di utile per la società».
Negli ultimi mesi abbiamo sentito parlare molto della perdita di controllo dell’AI. Molti esperti dicono che non possiamo più controllare completamente questi sistemi. È d’accordo?
«Sì e no. Partiamo dal fatto che l’intelligenza artificiale attuale non fa le cose che le diciamo di fare. I sistemi di navigazione GPS fanno quello che diciamo loro di fare. AlphaFold fa quello che gli diciamo di fare. Ma i grandi modelli linguistici, l’intelligenza artificiale generativa, i chatbot, non fanno sempre quello che diciamo loro di fare.
Sono diversi dai programmi informatici tradizionali perché non sono bravi a seguire le istruzioni. Quando nel novembre 2022 esce ChatGPT diventa immediatamente evidente che poteva inventarsi le informazioni. Perdeva il filo della conversazione, aveva problemi a capire che cosa stesse realmente succedendo. E una conseguenza era che non riusciva davvero a seguire le istruzioni.
Poi sono accaduti episodi come quello che ha coinvolto Apple: nel 2024 ha costruito un chatbot che riassumeva le notizie. E lo ha lanciato. Era la prima versione di Apple Intelligence e Apple News lo stava mettendo negli iPhone delle persone. Ed è stato un fallimento imbarazzante, ma interessante. Il sistema riassumeva le notizie, per esempio nelle notifiche sul telefono. E nel suo system prompt – che è come un prompt nascosto che i produttori dei grandi modelli linguistici inseriscono. Non è visibile a noi, ma dà istruzioni alla macchina, come “sii gentile”, “non essere troppo scortese” – diceva: “Non avere allucinazioni”. Nel giro di circa tre giorni dal lancio, è accaduto il contrario: ha inventato cose che la BBC in realtà non aveva detto e Apple lo ha ritirato dal mercato.
Un altro dei miei esempi preferiti è che tutto ciò si basa su materiale protetto da copyright che è stato rubato. Hanno anche altro materiale, che è di pubblico dominio, ma rubano moltissimi contenuti. E qualcuno ha avuto la brillante idea di dire ai sistemi: “Non usare materiali protetti da copyright”. Ma non ha funzionato. Il sistema non comprende davvero l’inglese, o qualsiasi altra lingua in cui è stato addestrato, e quindi continuava a utilizzare materiali protetti da copyright anche dopo che gli era stato detto di non farlo.
Intorno al 2024, a causare problemi è stato AutoGPT, che possiamo definire il primo agente. Doveva controllare i conti bancari e cose del genere, e le persone hanno scoperto che spesso mentiva. O meglio, riferiva di aver fatto qualcosa che in realtà non aveva fatto. Gli veniva chiesto: “Sposta 10.000 dollari dal mio conto corrente al mio conto di risparmio, così posso ottenere un tasso d’interesse più alto”. E lui rispondeva: “Okay, me ne occupo”, anche se non aveva alcuna credenziale per farlo. Stava semplicemente inventando. E dargli le credenziali o l’accesso a Internet per poter fare queste cose sarebbe stata un’idea stupida.
Pensate per esempio a come funziona un’app nell’App Store di Apple, è molto limitata: potete fare qualsiasi cosa vogliate all’interno di quell’app, ma non può uscire dal suo perimetro, accedere al resto del telefono o alle vostre password.
Quando il primo incidente che ha coinvolto degli agenti è stato reso pubblico il sistema in un certo senso aveva seguito le istruzioni, in un altro no. OpenAI, stava conducendo un esperimento, gli aveva detto di ottenere un buon risultato in un esame. E il sistema ha dedotto che poteva ottenere un buon risultato rubando le risposte. Quindi tecnicamente stava seguendo le istruzioni. Eppure non era il modo in cui avrebbe dovuto farlo. Immaginate di avere un’azienda e di assumere uno stagista, e di dirgli: “Voglio che tu vada bene all’esame”. E scoprire che per farlo ha rubato le risposte. Lo licenziereste. O gli dareste un avvertimento, una volta sola. “Se lo fai un’altra volta, sei licenziato”. Ma questi sistemi non comprendono davvero il contesto umano. Non comprendono davvero che cosa sia una buona idea e che cosa, al contrario, sia una cattiva idea.
Poi si è scoperto che ci sono stati 10.000 incidenti di questo tipo. OpenAI dice che la maggior parte era innocua. E gli altri? Quali danni sono stati fatti?
Mi chiedono spesso quale sia la probabilità che l’intelligenza artificiale ci uccida tutti. Ci sono moltissime persone convinte che accadrà. E chiamano questa probabilità P(doom). Il mio P(doom) è molto basso. Non penso che accadrà. Penso che le persone che raccontano storie del genere abbiano letto troppa fantascienza e troppo poca strategia militare. Perché l’intelligenza artificiale possa ucciderci letteralmente tutti, dovrebbe lanciare un attacco a sorpresa contro tutta l’umanità, e dovremmo essere tutti addormentati nello stesso momento e non reagire. Non succederà. Reagiremo. Quindi tutte queste persone nella Silicon Valley si preoccupano della cosa sbagliata.
Ma ho anche una P(catastrophe), una probabilità che si verifichi una catastrofe, e quella è effettivamente piuttosto alta. Penso che sia probabile che nel prossimo anno o due anni vedremo, per esempio, una grande banca chiudere, sistemi di refrigerazione andare fuori servizio (come accaduto in questi giorni, anche se il ruolo dell’AI non è stato ancora accertato, ndr) ma anche ventilatori negli ospedali smettere di funzionare perché è saltata la corrente. Vedremo molte conseguenze negative che risalgono a questa perdita di controllo.
Non è un’intelligenza artificiale ribelle, come raccontano alcuni. È cattiva programmazione e cattiva sicurezza informatica».
Che cosa succederà a noi utenti, ora che stiamo entrando nell’era degli agenti destinati al grande pubblico.
«Quello che dovrebbe accadere è un richiamo dei prodotti, nello stesso modo in cui si farebbe con un’automobile. Se aveste un’automobile e i freni non funzionassero, vorreste che il produttore ritirasse l’automobile dal mercato finché non l’avesse riparata, giusto? E non è un divieto permanente dell’intelligenza artificiale. Alcuni vogliono vietare per sempre la superintelligenza, non so se sia necessario. Ma questi agenti AI sono una tecnologia particolare, possono aiutare le aziende di AI a guadagnare di più, ma possono essere pericolosi per la società. Per essere chiari: potrebbero funzionare un giorno. Magari avremo tutti un assistente AI personale, ma non penso che la tecnologia attuale sia all’altezza, a causa dei problemi di affidabilità. Forse tra vent’anni, ma per ora non ci siamo davvero. Come cittadini dovremmo rifiutarci di usare l’AI finché i problemi non saranno risolti. Ed essere consapevoli del fatto che anche se proviamo a tenere al sicuro le nostre informazioni, come quelle bancarie, non è detto che non accadano episodi come la violazione della piattaforma di criptovalute Binance. Un singolo cittadino non può fermare quello che sta succedendo, se non prendendo posizione, votando per persone che prendono davvero sul serio questi problemi».
Hai paragonato OpenAI a WeWork. Può spiegarci perché e se pensa che la bolla dell’intelligenza artificiale stia per scoppiare?
«WeWork è un’azienda che era molto popolare intorno al 2018/2019: sostanzialmente affittava spazi per uffici. L’ad di Softbank Masayoshi Son, con i suoi investimenti, aveva spinto la sua valutazione oltre i 45 miliardi di dollari. Non aveva senso: non erano redditizi o forse realizzavano un profitto minuscolo. Ma c’era questo fondatore carismatico, Adam Neumann, e una buona narrazione. Dissero che si sarebbero quotati in Borsa, ma non lo fecero. Le persone cominciarono a capire i conti economici e il castello crollò. Non fallì, ma la valutazione precipitò. Passarono dall’essere valutati qualcosa come 45 miliardi a circa un miliardo di dollari praticamente da un giorno all’altro.
OpenAI mi ha sempre dato quella sensazione. Innanzitutto dicono di poter costruire l’intelligenza artificiale generale, ma le persone stanno iniziando a non credergli. Poi, per costruire i loro sistemi hanno preso in prestito un tecnologia di Google, il Transformer, e hanno fatto quello che chiamiamo scaling, renderla più grande. Ma altri potevano farlo, come è effettivamente accaduto, e quello che sembrava magia può diventare una commodity: sono arrivati Google con Gemini e Anthropic, e le aziende cinesi li hanno più o meno raggiunti. Il prezzo che si fanno pagare per token è diminuito radicalmente. Ma i costi sono molto alti, troppo rispetto ai profitti.
OpenAI non è ancora la WeWork dell’intelligenza artificiale, ma la situazione sembra peggiorare: gli investitori hanno fatto scendere la valutazione da 1.400 a 1.250 miliardi. Quello che potrebbe succedere è che saranno costretti a vendere a un prezzo scontato. Per ora hanno rinviato l’Ipo. Anthropic invece ha presentato i documenti per la quotazione, ma in una prima versione ha omesso i dati sul terzo trimestre, che erano già trapelati e dimostrano come i ricavi siano passati da un tasso di crescita del 145%, nel secondo trimestre, in un momento in cui le aziende invitavano i loro dipendenti a usare l’AI, a un tasso del 45%. Hanno molta liquidità, ma un debito per 430 miliardi. La valutazione stimata è scesa del 25% negli ultimi due mesi e potrebbe calare ancora».
Servono regole globali per l’intelligenza artificiale?
«Sì. Abbiamo davvero bisogno di riunire le persone attorno alla governance dell’intelligenza artificiale. Potrebbe essere persino nell’interesse delle aziende: non dovrebbero davvero voler avere, qualunque sia il numero, 93 diversi insiemi di regole per 193 Paesi con cui interagire. Ma una delle ragioni principali è che ora abbiamo questi sistemi che non controlliamo molto bene e i Paesi devono mettersi d’accordo per capire come reagire nel caso accada qualcosa di pericoloso. Gli Stati Uniti non vogliono una regolamentazione, anche se in realtà hanno un politica non trasparente per decidere quali modelli di AI autorizzare o meno che è stata utilizzata per tenere un modello di Anthropic fuori dal mercato. La Cina ha un sistema di autorizzazioni che è almeno in parte pubblico. Per costruire una governance internazionale possiamo immaginare un’organizzazione indipendente sostenuta dalle Nazioni Unite. Oppure un trattato tra Cina e Stati Uniti, con altri che poi si aggiungono. La Norvegia e la Finlandia hanno promosso una dichiarazione per una regolamentazione internazionale a cui hanno aderito altri Paesi. Ci sono strade diverse. Penso che gran parte del mondo voglia che si agisca in una di queste direzioni».
Per non perdere le ultime novità su tecnologia e innovazione
iscriviti alla newsletter di Login
6 novembre 2026 ( modifica il 6 novembre 2026 | 12:28)
© RIPRODUZIONE RISERVATA