Si chiama nH Predict e viene utilizzato per raccomandare la durata delle cure riabilitative. Secondo alcune analisi, fa previsioni inaccurate nel 90% dei casi. United Healthcare è scelta da un terzo degli anziani che aderiscono a Medicare Advantage
Secondo la polizia Luigi Mangione, il 26enne accusato di aver ucciso l’amministratore delegato della società assicurativa UnitedHealthcare Brian Thompson, «probabilmente si considera una sorta di eroe che ha finalmente deciso di agire contro le ingiustizie». Non è l’unico, a vedere dalle reazioni che hanno provocato tanto l’omicidio quanto il suo arresto (ne ha scritto sul Corriere Velia Alvich). Per molte persone Mangione è davvero un eroe.
Assassini e violenti trovano spesso ammiratori online, ma il caso di Mangione è diverso. Lo ha spiegato l’editorialista del New York Times Zeynep Tufekci qualche giorno fa, prima che si scoprisse l’identità del killer di Thompson. «Ho studiato a lungo i social media e non mi viene in mente nessun altro caso in cui un omicidio in questo Paese sia stato celebrato così apertamente» notava Tufekci. «La rabbia che le persone provavano nei confronti dell’industria delle assicurazioni sanitarie e l’euforia che hanno espresso nel vederla colpita sono state diffuse e organiche. È stata scioccante per molti, ma ha attraversato le comunità lungo tutto lo spettro politico e ha preso piede in innumerevoli gruppi culturali diversi».
Come le compagnie assicurative guadagnano grazie agli algoritmi
«Per la maggior parte degli americani, un’azienda come UnitedHealth non rappresenta tanto la fornitura di cure mediche quanto un ostacolo attivo a riceverle. UnitedHealthcare assicura quasi un terzo dei pazienti iscritti a Medicare Advantage, un programma finanziato dal governo e agevolato dalle compagnie assicurative private, che ricevono una tariffa forfettaria per ogni paziente che coprono e poi producono i propri profitti riducendo al minimo i costi di assistenza di ciascun paziente. Secondo quanto riportato dal Wall Street Journal, queste compagnie assicurative private, che coprono più di un terzo degli anziani americani iscritti a Medicare, incassano centinaia di miliardi di dollari dal governo ogni anno e fatturano in eccesso a Medicare per circa dieci miliardi di dollari all’anno; UnitedHealthcare ha fatto ricorso a cause legali per contrastare l’obbligo di rimborsare le tariffe pagate in eccesso» scrive Jia Tolentino del New Yorker.
UnitedHealth, la casa madre di UnitedHealthcare, possiede anche NaviHealth, società che ha sviluppato un algoritmo che valuta a quali clienti concedere o negare i rimborsi per le spese mediche. NaviHealth è al centro di una causa collettiva che accusa il suo algoritmo di avere un «tasso di errore noto» del 90% e di aver causato la morte o il fallimento economico di innumerevoli pazienti (accusa che UnitedHealth nega). Ed è proprio questo genere di intelligenze artificiali applicate alla sanità ad essere al centro del dibattito, ma anche delle rimostranze di diversi americani che oggi applaudono il gesto di Luigi Mangione, considerato un modo per vendicarsi nei confronti di un algoritmo che discrimina, un’azienda che lo utilizza e un sistema che permette tutto questo.
«Diversi anni fa, alcuni investigatori governativi hanno scoperto che UnitedHealth aveva utilizzato degli algoritmi per identificare i fornitori di servizi di salute mentale che riteneva stessero curando i pazienti troppo spesso; i terapeuti così identificati ricevevano in genere una chiamata da un «avvocato dell’assistenza» dell’azienda che li interrogava e poi tagliava i rimborsi. Sebbene alcuni Stati abbiano dichiarato illegale questa pratica, essa rimane in vigore in tutto il Paese» racconta ancora Tolentino.
L’intelligenza artificiale che valuta la durata delle cure riabilitative
L’algoritmo di NaviHealth, noto come nH Predict, è stato oggetto di numerose critiche da parte di esperti e operatori sanitari per diverse ragioni. Uno dei principali problemi risiede nella sua presunta mancanza di accuratezza: alcune analisi hanno indicato che le previsioni fornite potrebbero essere errate in oltre il 90% dei casi, portando a decisioni che non rispecchiano le reali esigenze dei pazienti. Questo ha un impatto significativo sulle decisioni cliniche, poiché l’algoritmo viene utilizzato per raccomandare la durata delle cure riabilitative post-acute.
«Secondo i piani Medicare Advantage, i pazienti che hanno una degenza ospedaliera di tre giorni hanno in genere diritto a un massimo di 100 giorni in una casa di cura», si legge nei documenti di una causa intentata da due anziani contro United Healthcare, come riportato da The Register. «Con l’uso del modello di intelligenza artificiale nH Predict i pazienti raramente rimangono in una casa di cura più di 14 giorni prima di iniziare a ricevere rifiuti di pagamento».
L’algoritmo così si sovrappone o entra in conflitto con il giudizio dei medici. Le sue stime, basate sull’analisi di dati storici e modelli predittivi di apprendimento automatico, propongono durate standardizzate per i trattamenti, ma spesso non tengono conto della complessità e unicità di ogni paziente.
A ciò si aggiunge il fatto che alcune compagnie assicurative hanno utilizzato l’algoritmo per negare o limitare la copertura delle cure, riducendo i costi ma con potenziali ripercussioni sulla salute dei pazienti, specialmente quelli anziani o con condizioni mediche complesse. Sul piano tecnico, il funzionamento di nH Predict si basa sull’analisi di grandi quantità di dati storici, come cartelle cliniche e risultati di trattamenti precedenti, per individuare pattern che possano guidare le decisioni. Tuttavia, questo approccio è vulnerabile ai bias intrinseci nei dati utilizzati: se in passato alcune categorie di pazienti hanno ricevuto cure inadeguate o discriminatorie, l’algoritmo rischia di replicare e amplificare tali errori. Inoltre, NaviHealth non ha reso pubblici i dettagli del funzionamento del modello, limitando la trasparenza e la possibilità di verifica da parte di terzi. Questa combinazione di scarsa affidabilità, standardizzazione e mancanza di trasparenza ha sollevato preoccupazioni etiche e legali, portando a un acceso dibattito sull’uso dell’intelligenza artificiale nel settore sanitario.
In risposta alle critiche e alle indagini, UnitedHealth ha deciso di interrompere l’uso del marchio NaviHealth, integrando i suoi servizi in una divisione più ampia per l’assistenza domiciliare e post-acuta. Nonostante ciò, permangono preoccupazioni sull’affidabilità degli algoritmi di intelligenza artificiale nel settore sanitario e sul loro impatto sulle decisioni cliniche e sulla qualità delle cure fornite ai pazienti.
Queste politiche per molti americani sono letteralmente una questione di vita o di morte: in un sistema privatistico avere o no la copertura dell’assicurazione (pagata magari migliaia di dollari all’anno) significa potersi o non potersi curare per malattie anche letali.