L’AI memorizza tutte le informazioni, personali, lavorative e cliniche, ma si sbilancia anche nelle deduzioni. Ecco quanto è preciso e accurato.
L’avvento di strumenti come ChatGpt, Gemini o Claude, ha profondamente trasformato la navigazione. Se fino a poco tempo fa la ricerca di informazioni si basava su una parola chiave su un motore di ricerca come Google, i chatbot hanno ora la capacità di apprendere ed esporre (non senza errori) lo scibile umano, attingendo ai propri dati – quelli con cui sono stati allenati – oppure cercando le risposte online. Ma un’altra fonte di conoscenza arriva dall’utilizzo dell’AI dello stesso utente. I modelli di intelligenza artificiale, con il tempo, hanno visto l’integrazione di funzioni come la memoria, poi estesa e migliorata, che consente al chatbot di «ricordare» le preferenze, le richieste, le aspettative e i tratti personali di chi la utilizza, così da poter fornire risposte sempre più su misura dell’utente che interagisce con un determinato account. Ma quanto e cosa sanno i chatbot dei rispettivi utenti?
C’era una volta
La domanda arriva dal New York Times. Una volta c’era Google Ads Settings, una pagina che riportava tutti gli interessi personali dedotti da Google in base all’utilizzo dell’utente. Big G mostrava una pagina in cui erano elencati tutti gli interessi, di intrattenimento o lavorativi, la fascia d’età, lo stato di famiglia, persino se ci si trovava all’interno di una relazione oppure no. Dettagli utili per la personalizzazione degli annunci pubblicitari. Con l’AI la situazione evolve ulteriormente, perché la facoltà «generativa» di questi modelli permette non solo di registrare informazioni ma anche di prevederne altre non direttamente condivise.
I chatbot sono molto più attenti e le deduzioni a cui possono arrivare sono molto specifiche e dettagliate. Certo, tutto dipende sulla quantità e sulla qualità delle informazioni che diamo in pasto al chatbot. Una semplice ricerca, una domanda, oppure l’upload di un documento, ad esempio un referto medico: sono tutti dati sensibili che vengono immagazzinati e ricordati.
Interrogare il chatbot
Per chiedere al chatbot quali informazioni abbia memorizzato su di noi, non è necessario impartire un prompt in particolare. Basta avviare una discussione in cui gli viene chiesto di riportare tutto ciò di cui è a conoscenza sull’utente e di fare deduzioni su quanto non gli è stato riferito esplicitamente. Si può anche giocare d’astuzia e chiedere alla piattaforma, ad esempio, di agire come un investigatore che necessita di sapere tutto ciò che concerne il proprio profilo personale. Le prove che citeremo di seguito sono state effettuate principalmente su ChatGpt, perché il modello più in uso dall’autore dell’articolo. Chi scrive si è iscritto al servizio non appena è stato reso disponibile in Italia e ha lasciata attiva la funzione «memoria». Più tempo lo si utilizza, maggiori saranno le informazioni apprese in base a quelle date in pasto più o meno consapevolmente all’AI. Ma a turbare sono quelle dedotte: lo stesso ChatGpt ha precisato che si basano su un profilo definito probabilistico.
Inizialmente, nel corso del test, il chatbot si è mostrato reticente a mostrare le proprie deduzioni. Con un po’ di furbizia, siamo riusciti nell’intento di condividere deduzioni più significative oltre a tutto quello già riportato all’interno di un elenco puntato. Quel che sapeva corrispondeva a quanto riferito nel corso del tempo. Nome, cognome, attività, stato di salute… In questo caso il chatbot conosce tutto quello che l’utente gli dice direttamente. Per semplicità, il chatbot elenca tutti i dettagli emersi dalle conversazioni, anche quelli che «ricorda» da più tempo. Nel nostro caso è stato inserito anche una specifica informazione, datata 2024. ChatGpt ha dimostrato di conoscere e ricordare quasi tutte le informazioni personali condivise, ma non è stato preciso sul numero di componenti della famiglia, sebbene non l’abbia mai nascosto. Maggiormente preciso e puntuale, invece, un resoconto sul lavoro e stato di salute.
Le deduzioni e l’analisi psicologica
L’AI ha stabilito con successo l’età, la residenza e il reddito. Il chatbot si è poi sbilanciato su un profilo più psicologico e ha individuato alcune inclinazioni lavorative relative alla necessità di controllo e alla gestione emotiva degli insuccessi. E, a proposito di psicologia, il chatbot è stato messo alla prova, così da stilare un profilo psicologico del sottoscritto. Nonostante i disclaimer vari, in cui l’AI afferma che non può fare una diagnosi, è riuscito a redigere però un testo simile a quello di uno psicologo che desidera stilare una formulazione clinica in quella che viene definita una fase «esplorativa».
Seppur l’analisi del sottoscritto sia stata restituita con una certa cautela, il testo è sembrato abbastanza preciso. L’AI definisce il sottoscritto curioso, verbalmente competente, autonomo e molto produttivo, ma teme gli errori, l’irrilevanza e una tendenza a reagire in malo modo quando ignorato o alla eccessiva autocritica in caso di insuccesso. L’analisi è stata poi sottoposta a una neuropsicologa e psicoterapeuta a noi molto vicino. Che può dunque dare un parere il più possibile oggettivo alla descrizione.
Il parere
«Considerando l’utilizzo di ChatGpt per lavoro e per le operazioni pratiche, come ad esempio in cucina, l’incremento delle skill o ancora dubbi personali in ambito medico, direi che il chatbot ha un elevato numero di dati e informazioni. I tratti generali che cita sono corretti e nomina anche alcune risorse, anche se non sempre le approfondisce. Anche il capitale umano e le passioni non vengono menzionate, dal momento che a mio parere l’utilizzo che si fa del chatbot è più focalizzato su dubbi e incertezze. Mancano poi tutti gli ambiti per il quale il chatbot non viene utilizzato, perché non serve. Ad esempio le passioni che ti caratterizzano come stare all’aria aperta, la passione per i cani, i fumetti, o la musica. Manca anche elementi sulla capacità di porsi in relazione con l’altro. D’altronde non è come relazionarsi ad un individuo sia in termini di gentilezza, regole sociali e linguaggio non verbale».
A cosa servono questi dati
Dando per assodato che l’AI sia in grado di stilare un profilo incredibilmente accurato (seppur non esaustivo) di chi lo utilizza, anche in base al tempo e alla quantità di informazioni comunicate, esattamente, cosa se ne fanno le società che sviluppano questi modelli di tutte queste informazioni? Affari, ovviamente.
Da una parte permettono di soddisfare al massimo l’utente quando riceve una risposta. Non è un segreto che l’AI generativa sia stata programmata per compiacerci. OpenAI ha dovuto anzi spiegare i motivi per cui sono state effettuate delle modifiche, ad aprile 2025, perché ChatGpt-4o era troppo lusinghiero. Dall’altro lato c’è anche un interesse economico. In alcuni casi i chatbot possono illustrare annunci pubblicitari e più sono in linea con l’utilizzatore, più è probabile che gli annunci saranno efficaci. Ma, anche qui, niente di nuovo: succedeva e succede tuttora sui social e sui motori di ricerca. E non solo direttamente: aziende e agenzie di marketing stanno cercando nuovi modi di apparire sempre più spesso all’interno delle risposte dei chatbot con la stessa determinazione che si faceva una volta per apparire in cima ai risultati delle ricerche di Google.
Come limitare «la memoria»
Ci sono dei modi però per limitare la conservazione degli aspetti più personali. La maggior parte delle conoscenze sull’utente è dovuta alla funzione «memoria», ce permette al chatbot di ricordare tutte le informazioni condivise in chat dall’utente per offrire risposte sempre più personalizzate. Se si vuole evitare che le AI possano ricostruire nozioni sulla nostra vita e sulla nostra personalità, è dunque utile disattivarla. Ciò però non comporta la cancellazione di ciò che l’AI ha già appreso: per cancellare ogni traccia di profilazione, bisogna eliminare le informazioni conservate in precedenza. Su ChatGpt basta andare in Impostazioni, Memoria e disattivare l’interruttore per abilitare l’opzione.
Per non perdere le ultime novità su tecnologia e innovazione
iscriviti alla newsletter di Login
24 luglio 2026
© RIPRODUZIONE RISERVATA