OpenAI acaba de dar un paso al frente que muchos anticipaban pero que pocos esperaban tan pronto: el lanzamiento de ChatGPT Health, una nueva experiencia dentro de ChatGPT diseñada para permitir que los usuarios conecten sus historiales médicos y aplicaciones de salud como Apple Health o MyFitnessPal para obtener respuestas más personalizadas a sus preguntas sobre salud y bienestar.
La compañía destaca que se trata de una respuesta a una demanda masiva: según sus propios datos, más de doscientos millones de usuarios preguntan sobre salud al chatbot cada semana, y que la herramienta busca ayudar los pacientes a entender resultados de laboratorio, a prepararse para citas médicas o a comparar opciones de seguros.
Desde una perspectiva superficial, este movimiento puede parecer razonable: un asistente de salud digital que utiliza datos personales para contextualizar y mejorar sus respuestas, respuestas que, de todas formas, los usuarios estaban demandando y obteniendo ya. Pero si uno mira con detenimiento, resulta inevitable plantearse una pregunta incómoda: ¿es esta apuesta realmente para empoderar a los pacientes o, ante todo, para acceder a más datos médicos, uno de los activos más valiosos que aún queda en manos de los usuarios, para alimentar y fortalecer los modelos de inteligencia artificial de una compañía?
OpenAI afirma que las conversaciones dentro de ChatGPT Health no se usan para entrenar sus modelos de base y que los datos médicos «se aíslan» y protegen con un cifrado especializado. Pero esta promesa, repetida machaconamente como una advertencia legal que afirma que, «no está destinado para diagnóstico ni tratamiento», no altera el hecho de que el producto invita activamente a los usuarios a subir y enlazar sus datos de salud más sensibles. En realidad, esa insistencia en que el sistema «no reemplaza a un médico» funciona más como un escudo legal que como una barrera real que modifique el comportamiento de los usuarios.
El atractivo de poseer datos médicos estructurados y longitudinales es enorme para cualquier empresa de tecnología que busque mejorar sus modelos de inteligencia artificial. La medicina, con su riqueza de pruebas diagnósticas, historiales clínicos y narrativas de enfermedad, ofrece un terreno de entrenamiento incomparablemente más valioso que los datos de texto genéricos que han dominado el entrenamiento de LLMs hasta ahora. Aunque OpenAI no utilice esos datos para entrenamiento directo según sus términos actuales, la simple recolección y procesamiento de información estructurada de salud crea un precedente de acumulación de datos que muchas compañías pagarían millones por obtener a través de alianzas con hospitales o aseguradoras.
Además, incluso con las advertencias, existe un riesgo real de sobreconfianza por parte de los usuarios. Numerosos estudios han demostrado que los modelos de lenguaje generan respuestas que suenan médicamente plausibles aunque no lo sean, y esto no es una ocurrencia aislada: investigaciones académicas independientes han encontrado tasas no despreciables de respuestas inseguras o incorrectas en chatbots generativos cuando se les formulan preguntas médicas sensibles. Cuando una persona interpreta esto como un «segundo diagnóstico» o como una confirmación alternativa a la opinión de un médico, estamos activando una auténtica bomba de relojería.
No es una preocupación abstracta: existen evidencias de casos en los que las respuestas automatizadas sobre salud han inducido a decisiones peligrosas o a la mala interpretación de síntomas, desde retrasos en buscar atención hasta malos hábitos terapéuticos. Aunque OpenAI lanzó previamente herramientas como HealthBench, concebidas supuestamente para medir la seguridad y precisión de las respuestas de sus modelos en escenarios médicos, estos esfuerzos siguen siendo evaluaciones, no garantías de seguridad clínica.
Además de los problemas de precisión, emergen tensiones sociales claras. ¿Cuántos médicos verán a pacientes llegar a consulta discutiendo diagnósticos sugeridos por un chatbot? ¿Cuántos profesionales de la salud tendrán que dedicarse a deshacer malentendidos sembrados por una herramienta que muchos creen omnisciente, que combina datos reales con razonamientos generativos que pueden sonar convincentes, pero que no están clínicamente validados? ¿Está para eso el escaso y tasado tiempo de los facultativos? La tecnología no sólo transforma datos: transforma expectativas, narrativas personales e interacciones de confianza entre pacientes y proveedores de salud.
La propia dinámica de advertir que «esto no es diagnóstico ni tratamiento» no es inocua: muchos usuarios no están preparados para ponderar esa limitación cuando reciben una interpretación de sus análisis de sangre o un resumen aparentemente comprensible de síntomas complejos. El simple hecho de que la herramienta acceda a tu historial completo y lo sintetice puede crear en el usuario la ilusión de autoridad médica, independientemente de lo que diga la pequeña advertencia legal en letra pequeña en un rincón de la pantalla.
Por último, está la cuestión de la regulación y la responsabilidad. ChatGPT Health se presenta como un producto de consumo, no como un dispositivo médico regulado, lo que significa que no está sujeto a los mismos estándares de evidencia, supervisión ni rendición de cuentas que las herramientas clínicas. Esto abre un vacío normativo peligroso cuando los datos, por sensibles que sean, se integran en un sistema que también es un servicio masivo de inteligencia artificial con fines comerciales.
ChatGPT Health puede representar un momento definitorio en la relación entre inteligencia artificial y salud: no solo por lo que ofrece, sino por cómo y a quién lo ofrece. La promesa de empoderamiento del paciente puede ser real en algunos aspectos, pero no puede concebirse al margen de los incentivos de la empresa que lo desarrolla.
En un momento en que los datos son la materia prima de la economía digital, el acceso a historiales médicos completos no es sólo una funcionalidad, sino una jugada estratégica de enorme valor. Y mientras los usuarios celebran la comodidad de respuestas personalizadas y la aparente democratización del conocimiento médico, los límites de responsabilidad, seguridad y ética siguen siendo nebulosos y peligrosamente abiertos. Antes de aceptar que una inteligencia artificial te «ayude a navegar tu salud», convendría preguntarse si estamos preparados, como sociedad, para gestionar las consecuencias de poner un doctor digital con acceso a tus datos, pero sin regulación clínica, en el bolsillo de millones de personas.
This article is also available in English on Medium, «ChatGPT Health: personalization, power and the price of our medical data«