L’AI memorizza tutte le informazioni, personali, lavorative e cliniche, ma si sbilancia anche nelle deduzioni. Ecco quanto \u00e8 preciso e accurato.<\/p>\n
L\u2019avvento di strumenti come ChatGpt, Gemini o Claude, ha profondamente trasformato la navigazione. Se fino a poco tempo fa la ricerca di informazioni si basava su una parola chiave su un motore di ricerca come Google, i chatbot hanno ora la capacit\u00e0 di apprendere ed esporre (non senza errori) lo scibile umano, attingendo ai propri dati – quelli con cui sono stati allenati – oppure cercando le risposte online. Ma un\u2019altra fonte di conoscenza arriva dall\u2019utilizzo dell’AI dello stesso utente<\/b>. I modelli di intelligenza artificiale, con il tempo, hanno visto l\u2019integrazione di funzioni come la memoria<\/a>, poi estesa e migliorata, che consente al chatbot di \u00abricordare\u00bb le preferenze, le richieste, le aspettative e i tratti personali di chi la utilizza, cos\u00ec da poter fornire risposte sempre pi\u00f9 su misura dell\u2019utente che interagisce con un determinato account. Ma quanto e cosa sanno i chatbot dei rispettivi utenti<\/b>?<\/p>\n C’era una volta<\/p>\n La domanda arriva dal New York Times<\/a>. Una volta c\u2019era Google Ads Settings<\/b>, una pagina che riportava tutti gli interessi personali dedotti da Google in base all\u2019utilizzo dell\u2019utente. Big G mostrava una pagina in cui erano elencati tutti gli interessi, di intrattenimento o lavorativi, la fascia d\u2019et\u00e0, lo stato di famiglia, persino se ci si trovava all’interno di una relazione oppure no. Dettagli utili per la personalizzazione degli annunci pubblicitari. Con l’AI la situazione evolve ulteriormente,<\/b> perch\u00e9 la facolt\u00e0\u00a0\u00abgenerativa\u00bb di questi modelli permette non solo di registrare informazioni ma anche di prevederne altre non direttamente condivise<\/b>.
I chatbot sono molto pi\u00f9 attenti e le deduzioni a cui possono arrivare sono molto specifiche e dettagliate. Certo, tutto dipende sulla quantit\u00e0 e sulla qualit\u00e0 delle informazioni che diamo in pasto al chatbot<\/b>. Una semplice ricerca, una domanda, oppure l’upload di un documento, ad esempio un referto medico: sono tutti dati sensibili che vengono immagazzinati e ricordati.\u00a0<\/p>\n Interrogare il chatbot<\/p>\n Per chiedere al chatbot quali informazioni abbia memorizzato su di noi, non \u00e8 necessario impartire un prompt in particolare. Basta avviare una discussione in cui gli viene chiesto di riportare tutto ci\u00f2 di cui \u00e8 a conoscenza sull\u2019utente e di fare deduzioni<\/b> su quanto non gli \u00e8 stato riferito esplicitamente. Si pu\u00f2 anche giocare d\u2019astuzia e chiedere alla piattaforma, ad esempio, di agire come un investigatore che necessita di sapere tutto ci\u00f2 che concerne il proprio profilo personale. Le prove che citeremo di seguito sono state effettuate principalmente su ChatGpt, perch\u00e9 il modello pi\u00f9 in uso dall\u2019autore dell\u2019articolo.\u00a0Chi scrive si \u00e8 iscritto al servizio non appena \u00e8 stato reso disponibile in Italia e ha lasciata attiva la funzione \u00abmemoria\u00bb. Pi\u00f9 tempo lo si utilizza, maggiori saranno le informazioni apprese in base a quelle date in pasto pi\u00f9 o meno consapevolmente all\u2019AI. Ma a turbare sono quelle dedotte: lo stesso\u00a0\u00a0ChatGpt ha precisato che si basano su un profilo definito probabilistico<\/b>.<\/p>\n Inizialmente, nel corso del test, il chatbot si \u00e8 mostrato reticente a mostrare le proprie deduzioni. Con un po\u2019 di furbizia, siamo riusciti nell\u2019intento di condividere deduzioni pi\u00f9 significative<\/b> oltre a tutto quello gi\u00e0 riportato all\u2019interno di un elenco puntato. Quel che sapeva corrispondeva a quanto riferito nel corso del tempo. Nome, cognome, attivit\u00e0, stato di salute\u2026 In questo caso il chatbot conosce tutto quello che l\u2019utente gli dice direttamente. Per semplicit\u00e0, il chatbot elenca tutti i dettagli emersi dalle conversazioni<\/b>, anche quelli che \u00abricorda\u00bb da pi\u00f9 tempo. Nel nostro caso \u00e8 stato inserito anche una specifica informazione, datata 2024. ChatGpt ha dimostrato di conoscere e ricordare quasi tutte le informazioni personali condivise, ma non \u00e8 stato preciso sul numero di componenti della famiglia, sebbene non l’abbia mai nascosto. Maggiormente preciso e puntuale, invece, un resoconto sul lavoro e stato di salute.\u00a0<\/p>\n Le deduzioni e l’analisi psicologica<\/p>\n L’AI ha stabilito con successo l’et\u00e0, la residenza e il reddito<\/b>. Il chatbot si \u00e8 poi sbilanciato su un profilo pi\u00f9 psicologico<\/b> e ha individuato alcune inclinazioni lavorative relative alla necessit\u00e0 di controllo e alla gestione emotiva degli insuccessi.<\/b> E, a proposito di psicologia,\u00a0 il chatbot \u00e8 stato messo alla prova, cos\u00ec da stilare un profilo psicologico del sottoscritto. Nonostante i disclaimer vari, in cui l\u2019AI afferma che non pu\u00f2 fare una diagnosi<\/b>, \u00e8 riuscito a redigere per\u00f2 un testo simile a quello di uno psicologo che desidera stilare una formulazione clinica<\/b> in quella che viene definita una fase \u00abesplorativa\u00bb.\u00a0<\/p>\n Seppur l\u2019analisi del sottoscritto sia stata restituita con una certa cautela, il testo \u00e8 sembrato abbastanza preciso. L\u2019AI definisce il sottoscritto curioso, verbalmente competente, autonomo e molto produttivo, ma teme gli errori, l\u2019irrilevanza e una tendenza a reagire in malo modo quando ignorato o alla eccessiva autocritica in caso di insuccesso. L\u2019analisi \u00e8 stata poi sottoposta a una neuropsicologa e psicoterapeuta a noi molto vicino. Che pu\u00f2 dunque dare un parere il pi\u00f9 possibile oggettivo alla descrizione.<\/p>\n Il parere<\/p>\n \u00abConsiderando l\u2019utilizzo di ChatGpt per lavoro e per le operazioni pratiche, come ad esempio in cucina, l’incremento delle skill o ancora dubbi personali in ambito medico, direi che il chatbot ha un elevato numero di dati e informazioni<\/b>. I tratti generali che cita sono corretti e nomina anche alcune risorse, anche se non sempre le approfondisce. Anche il capitale umano e le passioni non vengono menzionate<\/b>, dal momento che a mio parere l\u2019utilizzo che si fa del chatbot \u00e8 pi\u00f9 focalizzato su dubbi e incertezze<\/b>. Mancano poi tutti gli ambiti per il quale il chatbot non viene utilizzato, perch\u00e9 non serve. Ad esempio le passioni che ti caratterizzano come stare all\u2019aria aperta, la passione per i cani, i fumetti, o la musica<\/b>. Manca anche elementi sulla capacit\u00e0 di porsi in relazione con l\u2019altro.<\/b>\u00a0D’altronde non \u00e8 come relazionarsi ad un individuo sia in termini di gentilezza, regole sociali e linguaggio non verbale\u00bb.<\/p>\n A cosa servono questi dati<\/p>\n Dando per assodato che l\u2019AI sia in grado di stilare un profilo incredibilmente accurato (seppur non esaustivo) di chi lo utilizza, anche in base al tempo e alla quantit\u00e0 di informazioni comunicate, esattamente, cosa se ne fanno le societ\u00e0 che sviluppano questi modelli di tutte queste informazioni<\/b>? Affari, ovviamente.\u00a0<\/p>\n Da una parte permettono di\u00a0soddisfare al massimo l\u2019utente quando riceve una risposta<\/b>. Non \u00e8 un segreto che l’AI generativa sia stata programmata per compiacerci. OpenAI ha dovuto anzi spiegare i motivi per cui sono state effettuate delle modifiche, ad aprile 2025<\/a>, perch\u00e9 ChatGpt-4o era troppo lusinghiero. Dall\u2019altro lato c\u2019\u00e8 anche un interesse economico<\/b>. In alcuni casi i chatbot possono illustrare annunci pubblicitari e pi\u00f9 sono in linea con l\u2019utilizzatore, pi\u00f9 \u00e8 probabile che gli annunci saranno efficaci. Ma, anche qui, niente di nuovo: succedeva e\u00a0 succede tuttora sui social e sui motori di ricerca. E non solo direttamente: aziende e agenzie di marketing stanno cercando nuovi modi di apparire sempre pi\u00f9 spesso all\u2019interno delle risposte dei chatbot con la stessa determinazione che si faceva una volta per apparire in cima ai risultati delle ricerche di Google.<\/p>\n Come limitare\u00a0\u00abla memoria\u00bb<\/p>\n Ci sono dei modi per\u00f2 per limitare la conservazione degli aspetti pi\u00f9 personali. La maggior parte delle conoscenze sull\u2019utente \u00e8 dovuta alla funzione \u00abmemoria\u00bb, ce permette al chatbot di ricordare tutte le informazioni condivise in chat dall’utente per offrire risposte sempre pi\u00f9 personalizzate. Se si vuole evitare che le AI possano ricostruire nozioni sulla nostra vita e sulla nostra personalit\u00e0, \u00e8 dunque utile disattivarla.\u00a0 Ci\u00f2 per\u00f2 non comporta la cancellazione di ci\u00f2 che l’AI ha gi\u00e0 appreso: per cancellare ogni traccia di profilazione, bisogna eliminare le informazioni conservate in precedenza. Su ChatGpt basta andare in Impostazioni, Memoria e disattivare l\u2019interruttore per abilitare l\u2019opzione.\u00a0<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n