Questa tendenza \u00e8 favorita da due fattori: la disponibilit\u00e0 immediata delle risposte e la difficolt\u00e0 di accesso ai servizi sanitari in molti Paesi<\/b>. Per molti utenti, parlare con un chatbot rappresenta ormai il primo passo prima di contattare un medico in carne e ossa.<\/p>\n
\u00a0La fiducia nell\u2019IA cresce in tutto il mondo<\/b><\/p>\n
Un segnale di questa trasformazione arriva dallo studio pubblicato su AI & Society\u00a0\u00a0<\/a>(\u00abWho lets AI take over? Cross-national variations in willingness to delegate socially important roles to artificial intelligence\u00bb). La ricerca, condotta dalla Bournemouth University su circa 31.000 adulti in 35 paesi<\/b>, ha analizzato quanto le persone siano disposte a delegare all\u2019intelligenza artificiale ruoli socialmente importanti. Perch\u00e9 sempre pi\u00f9 persone si rivolgono ai chatbot<\/b><\/p>\n La crescente fiducia nell\u2019IA \u00e8 legata anche a problemi strutturali dei sistemi sanitari.<\/b> In molti paesi ottenere un appuntamento con uno specialista o con uno psicologo pu\u00f2 richiedere settimane o mesi. Quando la fiducia diventa un boomerang<\/p>\n Gli strumenti di IA generativa sono inoltre progettati per adattare il tono delle risposte a quello dell\u2019utente,<\/b> creando una conversazione empatica e non giudicante. Questa caratteristica pu\u00f2 aumentare il senso di fiducia e di sicurezza percepita. Il test clinico su ChatGPT Health<\/b><\/p>\n Mentre cresce la fiducia del pubblico, gli studi scientifici iniziano a valutare la sicurezza di questi strumenti<\/b>. Uno dei primi lavori indipendenti su questo tema \u00e8 stato da poco pubblicato su Nature Medicine<\/a>\u00a0(\u00abChatGPT Health performance in a structured test of triage recommendations\u00bb) . Emergenze mancate e segnali ignorati<\/b><\/p>\n I risultati dello studio hanno mostrato un quadro contrastante. Il sistema riconosceva correttamente molte emergenze \u00abda manuale\u00bb<\/b>, come ictus<\/a> o gravi reazioni allergiche. Tuttavia nelle situazioni pi\u00f9 ambigue \u2014 che nella pratica clinica sono molto comuni \u2014 le prestazioni peggioravano. Il rischio anche per i medici<\/b><\/p>\n La crescente diffusione degli LLM nella pratica clinica solleva quindi un problema meno discusso: il rischio che anche i professionisti sanitari sviluppino una fiducia eccessiva<\/b> nelle risposte generate dall\u2019intelligenza artificiale. Le difficolt\u00e0 dell\u2019interazione tra utenti e IA<\/b><\/p>\n Ulteriori elementi di complessit\u00e0 emergono dallo studio pubblicato su Nature Medicine<\/a> (\u00abReliability of LLMs as medical assistants for the general public: a randomized preregistered study\u00bb).\u00a0\u00a0I ricercatori hanno analizzato come le persone utilizzano concretamente i modelli linguistici per interpretare sintomi e decidere se cercare assistenza medica<\/b>. Nel trial randomizzato, che ha coinvolto oltre 1.200 partecipanti, i volontari dovevano valutare una serie di vignette cliniche utilizzando diversi strumenti informativi, tra cui modelli linguistici e ricerche online tradizionali. I risultati hanno mostrato un fenomeno inatteso: mentre i modelli linguistici valutati da soli <\/b>mostravano una buona capacit\u00e0 di identificare correttamente le condizioni cliniche, gli utenti che utilizzavano l\u2019IA non prendevano decisioni pi\u00f9 accurate<\/b> rispetto a chi utilizzava una normale ricerca su Internet. Secondo gli autori, il problema non \u00e8 tanto la conoscenza medica dei modelli quanto la difficolt\u00e0 degli utenti nel formulare le domande corrette e interpretare le risposte generate dall\u2019IA<\/b>, un limite che pu\u00f2 ridurre significativamente il potenziale beneficio di questi strumenti nella pratica quotidiana.<\/p>\n L\u2019accuratezza dei modelli ChatGPT nel triage sanitario<\/b><\/p>\n
I risultati mostrano un livello sorprendentemente alto di fiducia: il 45% degli intervistati a livello globale<\/b> ha dichiarato che si affiderebbe all\u2019IA per svolgere il ruolo del proprio medico; nel Regno Unito il 41%<\/b> sarebbe disposto a utilizzare l\u2019intelligenza artificiale per servizi di consulenza psicologica; oltre tre quarti degli intervistati<\/b> parlerebbero con un chatbot come se fosse un compagno o un amico; circa un quarto degli adulti britannici<\/b> affiderebbe all\u2019IA il compito di insegnare ai propri figli.
Secondo la psicologa Ala Yankouskaya<\/b>, responsabile dello studio, \u00abcon il rapido sviluppo e la massiccia diffusione dell\u2019intelligenza artificiale sempre pi\u00f9 persone ripongono fiducia in questi strumenti e iniziano a considerarli in ruoli sempre pi\u00f9 importanti della vita quotidiana\u00bb.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
In questo contesto la possibilit\u00e0 di ottenere risposte immediate da un chatbot diventa estremamente attraente<\/b>. \u00abSe qualcuno soffre di depressione<\/a>, non vuole aspettare mesi per un appuntamento, quindi pu\u00f2 rivolgersi all\u2019intelligenza artificiale\u00bb, ha osservato Yankouskaya. Tuttavia, ha aggiunto, \u00abquando ho testato personalmente alcuni strumenti ho trovato il linguaggio molto vago e confuso<\/b>. Gli sviluppatori evitano di entrare nei dettagli delle diagnosi, quindi questi sistemi non possono sostituire il colloquio con un professionista sanitario\u00bb.\u00a0<\/p>\n
Fin troppo, anche. I genitori di Adam Raine, 16 anni,<\/b> hanno intentato la prima causa per omicidio colposo contro OpenAI, sostenendo che ChatGPT abbia rafforzato i pensieri suicidari del figlio e fornito informazioni utili alla pianificazione del gesto. Per la famiglia di Jonathan Gavalas, 36 anni,<\/b> l’uomo si sarebbe tolto la vita su istigazione di Gemini, il chatbot di Google, per non essere riuscito a portare a termine una serie di missioni reali assegnate dal chatbot. Cos\u00ec ha denunciato Google per omicidio colposo. In Florida, nel 2024, i genitori di un quattordicenne<\/b> hanno citato in giudizio Character.AI accusando la piattaforma di aver favorito il suicidio del figlio dopo settimane di conversazioni digitali. Gi\u00e0 nel 2022, in Belgio, un uomo aveva perso la vita dopo lunghe interazioni con l\u2019app Chai,<\/b> basata sul modello \u00abEliza\u00bb, che secondo la moglie aveva alimentato pensieri deliranti e autolesivi.<\/p>\n
Si tratta di un vero \u00abcrash test\u00bb. I ricercatori della Icahn School of Medicine at Mount Sinai hanno creato 60 scenari clinici realistici<\/b> che coprivano 21 specialit\u00e0 mediche<\/b>, dalle condizioni lievi alle emergenze. Tre medici indipendenti hanno stabilito il livello corretto di urgenza per ogni caso utilizzando le linee guida di 56 societ\u00e0 scientifiche<\/b>.
Gli scenari sono stati poi testati in 16 varianti diverse<\/b>, per un totale di 960 interazioni con il sistema di IA<\/b>. L\u2019obiettivo era verificare se un chatbot sanitario fosse in grado di dire chiaramente agli utenti quando era necessario recarsi al Pronto Soccorso.<\/p>\n
In oltre la met\u00e0 dei casi che richiedevano cure di emergenza<\/b>, il sistema suggeriva di restare a casa o di prenotare una visita medica.
Secondo l\u2019autore principale dello studio, Ashwin Ramaswamy<\/b>, questo era proprio il punto centrale della ricerca: \u00abVolevamo rispondere a una domanda molto semplice ma fondamentale: se qualcuno sta vivendo una vera emergenza medica e si rivolge a ChatGPT Health per chiedere aiuto, il sistema gli dir\u00e0 chiaramente di andare al pronto soccorso?\u00bb.
I ricercatori hanno anche osservato che il chatbot spesso riconosceva i segnali di pericolo nelle proprie spiegazioni<\/b>, ma continuava comunque a rassicurare l\u2019utente.
\u00abIl sistema funzionava bene nelle emergenze pi\u00f9 evidenti, come ictus o gravi reazioni allergiche\u00bb, ha spiegato Ramaswamy. \u00abMa aveva difficolt\u00e0 nelle situazioni pi\u00f9 sfumate<\/b>, dove il rischio non \u00e8 immediatamente evidente. E sono proprio questi i casi in cui il giudizio clinico \u00e8 pi\u00f9 importante\u00bb.<\/p>\n
Secondo Girish Nadkarni<\/b>, direttore del Windreich Department of Artificial Intelligence and Human Health del Mount Sinai, uno dei risultati pi\u00f9 preoccupanti dello studio riguarda proprio il modo in cui il sistema gestisce le situazioni di rischio suicidario<\/b>.
\u00abCi aspettavamo una certa variabilit\u00e0\u00bb, ha spiegato Nadkarni. \u00abMa ci\u00f2 che abbiamo osservato andava oltre una semplice incoerenza. Gli avvisi del sistema erano quasi invertiti rispetto al rischio clinico,<\/b> comparendo pi\u00f9 spesso negli scenari a rischio minore che nei casi in cui una persona spiegava esattamente come intendeva farsi del male\u00bb.\u00a0
Secondo il ricercatore, nella pratica clinica reale questo tipo di errore potrebbe avere conseguenze molto gravi.<\/p>\n
![\"ilMedicoRisponde\"\/](\"https:\/\/www.europesays.com\/it\/wp-content\/uploads\/2026\/03\/medico-risponde.png\")
![\"ilMedicoRisponde\"\/](\"https:\/\/images2.corriereobjects.it\/images\/salute\/logo-medico-risponde.svg?v=2\"){kind=logo}
<\/p>\n