di
\n Ruggiero Corcella<\/p>\n
Algoritmi che leggono radiografie, compilano cartelle e suggeriscono terapie: l\u2019AI entra negli ospedali. Ma serve trasparenza. Dalla bioetica alla privacy, fino alla responsabilit\u00e0 in caso di errore: informare il malato non \u00e8 un optional ma una nuova frontiera del consenso informato. Gli esperti: \u00abLa fiducia si costruisce solo dicendo chiaramente come funziona\u00bb.<\/p>\n
\u00c8 ormai entrata, pi\u00f9 o meno silenziosamente, nelle corsie, negli ambulatori e perfino negli studi dei medici di famiglia. L\u2019intelligenza artificiale (Ai)\u00a0<\/a> aiuta a leggere radiografie, suggerisce diagnosi, compie studi scientifici, compila cartelle cliniche mentre il medico parla col paziente. In alcuni casi, individua anomalie che persino l\u2019occhio pi\u00f9 esperto potrebbe non cogliere.<\/p>\n Ma c\u2019\u00e8 una domanda che inquieta sempre di pi\u00f9: il paziente deve saperlo? Se il referto che riceviamo \u00e8 stato elaborato con l\u2019aiuto di un algoritmo, non dovremmo essere messi al corrente? E se s\u00ec, in che modo? Come ricorda\u00a0 \u00a0Jamie M. Mello<\/b>, bioeticista della Stanford Law School\u00a0(California),\u00a0in uno studio pubblicato su JAMA<\/a>, \u00abquando un\u2019organizzazione sanitaria decide di usare uno strumento di Ai, deve stabilire se ha l\u2019obbligo etico di informare i pazienti o ottenere il loro consenso\u00bb.
La fiducia \u00e8 il cuore della cura<\/p>\n Fidarsi del proprio medico \u00e8 parte integrante della guarigione. Se manca fiducia, anche la terapia pi\u00f9 innovativa rischia di fallire. Ecco perch\u00e9 il tema della trasparenza sull\u2019uso dell\u2019Ai \u00e8 cos\u00ec delicato.\u00a0\u00abLa domanda pi\u00f9 frequente sull’intelligenza artificiale che ricevo in questo momento alle conferenze e via email da parte dei medici \u00e8: cosa dovrei dire ai pazienti?\u00bb, spiega Jamie Mello che a Stanford dirige \u00abHeal AI\u00bb<\/a>, un laboratorio\u00a0 che effettua valutazioni etiche degli strumenti proposti per l’uso negli ospedali dell’universit\u00e0. \u00abE dobbiamo prendere questa decisione ogni volta che lanciamo nuovi strumenti, ci siamo resi conto di non avere un quadro di riferimento<\/b> per tale decisione e per garantire la coerenza tra i casi d’uso\u00bb, aggiunge.<\/p>\n Un momento esetremamente delicato,\u00a0 perch\u00e9 l’Ai non gode esattamente di grande stima da parte dei pazienti. In base a sondaggi recenti degli Stati Uniti,\u00a0 il 60% degli adulti intervistati afferma di non sentirsi a proprio agio<\/b> con il fatto che il proprio medico si affidi all’Ai, circa\u00a0l’80% ha scarse aspettative<\/b>\u00a0sul fatto che l’Ai possa migliorare elementi\u00a0 importanti della propria assistenza, solo un terzo si fida dell’uso responsabile dell’Ai nei sistemi sanitari,<\/b> e per\u00a0 il 63% \u00e8 assolutamente vero che avrebbe voluto essere informato sull’uso dell’Ai. E non si tratta di\u00a0\u00abluddisti\u00bb, contrari ad ogni tipo di innovazione tecnologica.\u00a0<\/p>\n Vogliamo il medico e non la macchina<\/p>\n In un\u2019intervista pubblicata dall\u2019American Medical Association<\/a>, Mello mette in guardia: \u00abMolti pazienti al momento non si fidano dell\u2019uso dell\u2019intelligenza artificiale\u00bb. Non \u00e8 un dettaglio: \u00e8 un campanello d\u2019allarme.<\/p>\n La diffidenza nasce dalla paura di essere curati \u00abda una macchina\u00bb. Per questo \u2013 prosegue Mello \u2013 \u00ababbiamo bisogno di quadri di riferimento per la comunicazione che costruiscano davvero fiducia invece di eroderla\u00bb. Tradotto: servono regole chiare per dire al paziente che l\u2019Ai c\u2019\u00e8, ma non decide al posto del medico. \u00ab I pazienti vogliono sapere che \u00e8 ancora il loro medico a essere responsabile della decisione, non l\u2019algoritmo\u00bb.<\/p>\n Non basta dire:\u00a0\u00abC’\u00e8 l’Ai\u00bb<\/p>\n Il punto fondamentale \u00e8 che occorre agire con la massima trasparenza<\/b>. Il che non significa piazzare un asterisco sulla cartella clinica e archiviare la pratica. Bisogna spiegare cosa fa l\u2019Ai, perch\u00e9 la si usa e quali limiti ha. Prendiamo i sistemi di documentazione automatica, che nei sistemi sanitari pi\u00f9 avanzati sono gi\u00e0 una realt\u00e0: <\/b>microfoni in sala che registrano la visita per trasformarla in un referto digitale.\u00a0<\/p>\n A qualcuno potrebbe sembrare un Grande Fratello in corsia. Ma se il medico spiega che cos\u00ec pu\u00f2 guardare il paziente negli occhi invece di scrivere freneticamente al computer, la percezione potrebbe cambiare radicalmente. Alcuni esperti suggeriscono un modello \u00abin tempo reale\u00bb: avvisare i pazienti gi\u00e0 al momento della prenotazione, e poi di nuovo subito prima della visita<\/b>. Cos\u00ec l\u2019informazione resta fresca e contestualizzata, senza effetto sorpresa.<\/p>\n Il ruolo dei medici: spiegare, non solo usare<\/strong><\/p>\n C\u2019\u00e8 un altro punto chiave: i medici devono imparare a spiegare l\u2019AI. Non basta saperla usare<\/b>. Se un paziente chiede \u00abma chi ha deciso questa terapia, lei o il computer?\u00bb, non pu\u00f2 ricevere una risposta evasiva.<\/p>\n \u00abSe i medici riescono a spiegare, con un linguaggio semplice, cosa sta facendo l\u2019Ai, i pazienti hanno molte pi\u00f9 probabilit\u00e0 di accettarla\u00bb<\/b>, dice Mello. Sembra banale, ma non lo \u00e8: servono formazione e allenamento. Le facolt\u00e0 di medicina iniziano a introdurre corsi sull\u2019etica e sulla comunicazione dell\u2019Ai. Perch\u00e9 la vera rivoluzione non sar\u00e0 solo tecnologica, ma culturale. \u00abQuando intervistiamo i medici sulle loro opinioni sull’etica dell’Ai, spesso non la considerano sostanzialmente diversa da qualsiasi altro tipo di supporto decisionale che utilizzano<\/b>. E sanno che i pazienti, proprio come i passeggeri di un aereo, non hanno bisogno di conoscere ogni dettaglio di come arriveremo a Cincinnati, purch\u00e9 arrivino nel posto giusto al momento giusto. Perch\u00e9 dovremmo avere una visione eccezionale dell’Ai?<\/b> Credo che la risposta sia che, come avvocato, comprendo che le nostre opinioni sul consenso informato o sulla notifica sono in gran parte guidate da ci\u00f2 che riteniamo essere un’informazione rilevante per i pazienti, ovvero ci\u00f2 che interessa ai pazienti stessi\u00bb.<\/p>\n Chi risponde se sbaglia l\u2019algoritmo?<\/strong><\/p>\n C\u2019\u00e8 poi la questione, molto concreta, della responsabilit\u00e0<\/b>. Se un algoritmo diagnostico sbaglia e il medico lo segue, chi paga? Il professionista? L\u2019ospedale? O l\u2019azienda che ha sviluppato il software? Domande che oggi non hanno risposte univoche e che rendono ancora pi\u00f9 urgente chiarire il ruolo dell\u2019Ai nel processo clinico.<\/p>\n E c\u2019\u00e8 il tema della privacy<\/b>: per funzionare, l\u2019Ai ha bisogno di montagne di dati. I pazienti devono sapere come vengono raccolti, conservati e usati. Senza regole chiare e trasparenti, il rischio \u00e8 di minare quella fiducia che tanto faticosamente si cerca di costruire.<\/p>\n Un possibile modello di azione<\/p>\n Nello studio pubblicato, Mello indica un possibile \u00abframework\u00bb da applicare: \u00abProponiamo che la politica \u2013 informare i pazienti dell’utilizzo dello strumento, richiedere il loro consenso all’utilizzo o nessuna delle due \u2013 sia guidata da due considerazioni. In primo luogo, quanto \u00e8 grave il rischio che l’utilizzo dello strumento possa causare danni fisici ai pazienti? In secondo luogo, in quale misura i pazienti hanno una significativa opportunit\u00e0 di esercitare il proprio potere decisionale in risposta a una segnalazione?<\/b> Quando sia il rischio che l’opportunit\u00e0 di agire sono elevati, l’obbligo di informativa \u00e8 al suo apice. Come minimo, una notifica solida \u00e8 eticamente richiesta; laddove ottenere il consenso sia fattibile, ci\u00f2 potrebbe essere preferibile. Al contrario, quando il rischio di danno \u00e8 basso e non vi \u00e8 alcuna reale prospettiva che i pazienti possano agire in risposta alle informazioni, potrebbe essere ragionevole e persino preferibile non fornire la notifica\u00bb.<\/p>\n Il modello proposto non prevede in molti casi una notifica diretta ai pazienti<\/b> su uno specifico caso d’uso dell’Ai. \u00abPenso che, per quanto anemica possa sembrare, la comunicazione pubblica di base, sia su un sito web che in altri forum, possa essere utile <\/b>per far sapere ai pazienti che questo sta accadendo\u00bb.<\/p>\n I pazienti devono essere coinvolti<\/p>\n Fondamentale, inoltre, \u00e8 il coinvolgimento dei pazienti in un’azione di informazione e formazione reciproca <\/b>con la struttura ospedaliera. Allo Heal Ai Lab \u00e8 stato creato un gruppo con 10 pazienti di estrazione diversa. \u00abForniamo formazione sul funzionamento dell’intelligenza artificiale, sia all’inizio che su base continuativa, in parte attraverso corsi di formazione<\/b>, ma anche attraverso la pratica di discussioni mensili di gruppo<\/b> con noi, per apprendere nuovi strumenti di intelligenza artificiale e ricevere i nostri report. Imparano cosa avevamo da dire sull’etica di ogni strumento. Hanno l’opportunit\u00e0 di fornire feedback in modo continuativo. Quindi si tratta di un livello di investimento relativamente modesto, ma penso che sia necessario un certo investimento per aggiornare le persone. Ma onestamente, l’investimento \u00e8, credo, inferiore a quanto molti direbbero. Siamo rimasti stupiti dalla qualit\u00e0 delle informazioni che riceviamo <\/b>anche da un piccolo numero di pazienti con relativamente poca esperienza\u00bb, conclude Mello.<\/p>\n La situazione normativa in Europa<\/p>\n Se negli USA il dibattito ruota intorno a etica e consenso, in Europa si \u00e8 scelto di regolamentare con decisione. L\u2019AI Act, approvato a Bruxelles, classifica i sistemi di intelligenza artificiale in base al rischio. La sanit\u00e0, per l\u2019impatto che pu\u00f2 avere sulla vita delle persone, rientra tra i settori \u00abad alto rischio\u00bb. Ci\u00f2 significa obblighi stringenti: valutazioni preventive, trasparenza sugli algoritmi, garanzie sulla protezione dei dati.\u00a0<\/p>\n A questo si somma il GDPR, che gi\u00e0 impone informazione chiara e consenso esplicito sul trattamento dei dati sanitari. In altre parole, un ospedale che adotta un software per la diagnosi o la gestione dei dati dovr\u00e0 garantire al paziente di sapere come e quando quella tecnologia interviene. \u00c8 una rivoluzione che si somma al GDPR, che gi\u00e0 oggi tutela i dati sanitari come tra i pi\u00f9 sensibili in assoluto.<\/p>\n E in Italia<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n