La IA ya está impulsando resultados positivos en la atención médica y promete ofrecer muchos más. Sin embargo, es importante que la implementación de herramientas de IA, especialmente en entornos de atención médica donde la vida o la muerte están en juego, se lleve a cabo de manera reflexiva y …
La IA ya está impulsando resultados positivos en la atención médica y promete ofrecer muchos más. Sin embargo, es importante que la implementación de herramientas de IA, especialmente en entornos de atención médica donde la vida o la muerte están en juego, se lleve a cabo de manera reflexiva y mesurada.
Así lo consideran expertos de la Universidad Emory de Atlanta (EEUU) después de descubrir fallos en muchos estudios revisados por pares que utilizaban el método de inteligencia artificial conocido como aprendizaje por refuerzo como guía teórica para el tratamiento de la sepsis.
Las aplicaciones tradicionales de IA en el sector sanitario se han basado principalmente en modelos de aprendizaje supervisado. Estos modelos predicen el riesgo de sepsis analizando grandes conjuntos de datos de constantes vitales y otros parámetros clínicos de los pacientes para identificar a las personas con mayor riesgo.
Los recientes hallazgos, publicados en ‘npj Digital Medicine’, se refieren, en concreto, a un problema con una técnica comúnmente utilizada para el preprocesamiento e indexación de datos relacionados con el tratamiento de la sepsis. Dicha técnica, defectuosa, produce una ligera desalineación temporal, lo que provoca que el agente de IA se desvíe de la línea temporal y, en ocasiones, utilice un evento futuro para predecir el pasado.
Tras analizar la bibliografía, los investigadores descubrieron que aproximadamente el 80% de los estudios publicados que utilizaban el aprendizaje por refuerzo para el tratamiento de la sepsis presentaban dicho desajuste temporal.
«Si los datos de prueba de un modelo están desalineados de la misma manera, el problema permanece oculto, advierten los investigadores», según afirma Shengpu Tang, profesor asistente de informática en la Universidad de Emory y primer autor. «Pudimos comprobar que la gran mayoría de los artículos que utilizan el aprendizaje por refuerzo para analizar el tratamiento de la sepsis durante la última década cometieron este error de desalineación temporal, incluido nuestro propio trabajo».
Los autores de este trabajo demostraron que si estos sistemas defectuosos para el tratamiento de la sepsis se implementaran en un entorno sanitario, recomendarían un tratamiento excesivo o insuficiente en casi la mitad de los casos de los pacientes.
«El problema se oculta tras indicadores de rendimiento `inflados’ que parecen estupendos sobre el papel, pero que fracasarán en la práctica», afirmó el prof. Tang.
Posteriormente a estos hallazgos, desarrollaron una solución sencilla para evitar el fallo, lo que representa un cambio fundamental en la forma en que se formulan los problemas en el aprendizaje por refuerzo aplicado a la atención médica.
«Esperamos que estos hallazgos sirvan de llamada de atención y una hoja de ruta para construir modelos de aprendizaje por refuerzo más seguros y fiables para su uso en la práctica clínica», afirma Tang.