Ecco perch\u00e9 l’intelligenza artificiale non \u00abcapisce\u00bb le notizie ma le indovina e quali distorsioni introduce: cosa dice lo studio \u00abLa simulazione del giudizio negli LLM\u00bb, di un gruppo di ricercatori della Sapienza di Roma<\/p>\n
Sempre pi\u00f9 spesso ci rivolgiamo a modelli linguistici come ChatGPT non per cercare, ma per capire.
\u00abQuesto sito \u00e8 affidabile?\u00bb, \u00abQuesta fonte dice la verit\u00e0?\u00bb, \u00abQuesta informazione \u00e8 corretta?\u00bb.
E non ci fermiamo l\u00ec: \u00abSpiegami la guerra in Ucraina\u00bb, \u00abRiassumi Popper\u00bb, \u00abCos\u2019\u00e8 l\u2019abduzione\u00bb, \u00abmi fai capire cosa dice questo articolo?\u00bb. Domande cos\u00ec, ogni giorno, in ogni ambito. Studenti che colmano lacune in vista di un esame. Giornalisti che cercano conferme rapide. Professionisti che \u00abottimizzano\u00bb testi, email, report. E poi docenti, medici, avvocati. Tutti, prima o poi, si rivolgono a un modello linguistico come ci si rivolgeva, un tempo, a un motore di ricerca.
Solo che qui c\u2019\u00e8 una differenza profonda. Google restituiva risultati: indicava fonti, indirizzava altrove. Gli LLM, invece, simulano la risposta. Ti dicono direttamente cosa pensare. Come se l\u2019atto di giudicare, spiegare, sintetizzare fosse gi\u00e0 avvenuto. E il testo che compare, sempre ordinato, fluente, spesso convincente, sembra confermare che \u00e8 gi\u00e0 tutto l\u00ec.
Ma non \u00e8 l\u00ec. E soprattutto: non funziona come sembra.<\/p>\n
Il punto centrale \u00e8 che questi strumenti non hanno una rappresentazione del mondo<\/a>. Non possiedono un criterio interno di verit\u00e0. Quello che fanno, con stupefacente efficacia, \u00e8 generare sequenze linguistiche plausibili sulla base di pattern statistici appresi durante l\u2019addestramento. Quando diciamo che \u00aballucinano\u00bb, non stiamo descrivendo un errore. Stanno facendo esattamente ci\u00f2 per cui sono progettati. Non sbagliano: eseguono<\/a>. Predicono la parola successiva in una sequenza, con una precisione raffinata su scala globale, addestrati su miliardi di testi, dialoghi, articoli, manuali, siti. La loro competenza \u00e8 puramente linguistica, non epistemica. Eppure, ed \u00e8 questo il nodo, noi spesso li trattiamo come se sapessero. Li interroghiamo come si interroga una fonte. Ci fidiamo del loro stile, della loro compostezza argomentativa. Confondiamo la coerenza del linguaggio con la coerenza del pensiero. Non ci accorgiamo che stiamo delegando non solo l\u2019informazione, ma la struttura stessa del giudizio<\/b>. Tempo fa avevamo pubblicato un lavoro sull\u2019impoverimento del linguaggio online<\/a>\u00b9, una lenta ma misurabile tendenza alla semplificazione lessicale, sintattica e semantica nei commenti sui social degli ultimi trent\u2019anni. Un dato che mostrava come le parole cambiano quando cambiano gli ambienti in cui si parla.<\/p>\n Quel lavoro, in modo imprevisto, ha aperto discussioni pi\u00f9 ampie. Una in particolare, con alcuni colleghi di una delle principali big tech. La loro domanda era chiara: cosa accadrebbe in una societ\u00e0 in cui l\u2019uso degli LLM diventa pervasivo nei compiti quotidiani? Cosa succede alla lingua quando non la produciamo pi\u00f9 noi?<\/b><\/p>\n Era una domanda importante, ma ne rivelava un\u2019altra, pi\u00f9 profonda. Perch\u00e9 in quello scenario non \u00e8 in gioco solo il linguaggio. \u00c8 in gioco il modello di mondo immaginato da chi ha costruito questi motori.<\/p>\n Con i colleghi Edoardo Loru, Jacopo Nudo, Niccol\u00f2 Di Marco e Matteo Cinelli<\/b> ci siamo chiesti che cosa accade quando la delega cognitiva diventa sistemica. Quando le persone non si affidano agli LLM solo per cercare, ma per comprendere, per valutare, per decidere<\/b>.<\/p>\n I grandi sviluppatori degli LLM vogliono capirne l\u2019impatto sulla lingua. Ma la vera domanda, per noi, era un\u2019altra: un motore statistico pu\u00f2 sostenere questa delega? Quando gli chiediamo di valutare l\u2019affidabilit\u00e0 di una fonte, come opera davvero? Costruisce un criterio, oppure simula una risposta?<\/p>\n Da l\u00ec abbiamo deciso di fare un passo in pi\u00f9. Non bastava interrogare i modelli. Non bastava osservarli. Dovevamo metterli alla prova, con dati e confronto reale. Abbiamo cos\u00ec messo fianco a fianco sei dei principali modelli oggi in uso<\/b> (GPT-4o, Gemini, Mistral, Llama, DeepSeek) e gruppi di valutatori umani, inclusi esperti. A tutti, modelli e persone, \u00e8 stato affidato lo stesso compito: giudicare la credibilit\u00e0 di centinaia di siti di informazione<\/b>. In apparenza era semplice: classificare le fonti come affidabili o inaffidabili e motivare la scelta.<\/p>\n Dietro questa apparente semplicit\u00e0 si apriva la questione chiave: cosa conta come prova? Quali segnali usano? Che cosa attivano i modelli per decidere?<\/p>\n
Non verificano, ma \u00abverosimilizzano\u00bb.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
E il fatto che funzioni in molti casi, che \u00abdia risposte giuste\u00bb, rischia di rinforzare l\u2019equivoco. Perch\u00e9 funziona non vuol dire che comprenda. E se confondiamo una frase ben costruita con un contenuto affidabile, allora il problema \u00e8 nel nostro sguardo.<\/p>\n