Google ha decidido retirar de urgencia los res\u00famenes generados por inteligencia artificial en ciertas b\u00fasquedas relacionadas con la salud. Esta dr\u00e1stica medida responde a una investigaci\u00f3n reciente que ha sacado a la luz casos en los que la herramienta proporcionaba informaci\u00f3n enga\u00f1osa, falsa y potencialmente peligrosa para los pacientes.<\/p>\n
El detonante ha sido un informe de The Guardian<\/a>, que expuso c\u00f3mo el buscador ofrec\u00eda consejos m\u00e9dicos que contradec\u00edan directamente las recomendaciones de los especialistas. En uno de los casos m\u00e1s alarmantes, la IA aconsejaba a personas con c\u00e1ncer de p\u00e1ncreas evitar alimentos ricos en grasas. Los expertos han calificado este consejo como \u00abrealmente peligroso\u00bb<\/strong>, ya que la recomendaci\u00f3n m\u00e9dica est\u00e1ndar es exactamente la opuesta, y seguir las instrucciones de la IA podr\u00eda aumentar el riesgo de muerte.<\/p>\n Otro ejemplo involucraba pruebas de funci\u00f3n hep\u00e1tica. La herramienta proporcionaba datos falsos sobre los rangos normales en los an\u00e1lisis de sangre, lo que podr\u00eda llevar a personas con enfermedades hep\u00e1ticas graves<\/strong> a creer err\u00f3neamente que est\u00e1n sanas. Actualmente, consultas como \u00ab\u00bfcu\u00e1l es el rango normal para las pruebas de sangre del h\u00edgado?\u00bb ya no muestran el panel de inteligencia artificial.<\/p>\n Este incidente pone de manifiesto un problema creciente en el sector tecnol\u00f3gico: la excesiva implementaci\u00f3n\u00a0de la inteligencia artificial<\/strong>\u00a0y la inestabilidad de los modelos<\/a>.\u00a0Si bien estas herramientas han demostrado ser \u00fatiles para aumentar la productividad en tareas creativas o administrativas, su implementaci\u00f3n forzada en ciertos campos\u00a0resulta a menudo innecesaria y arriesgada. Delegar respuestas m\u00e9dicas a un modelo probabil\u00edstico, sin la supervisi\u00f3n adecuada, transforma una herramienta de ayuda en una fuente de desinformaci\u00f3n sanitaria.<\/p>\n Un historial de errores y silencio corporativo<\/p>\n La compa\u00f1\u00eda ha declinado hacer comentarios espec\u00edficos sobre esta eliminaci\u00f3n selectiva, pero el movimiento se suma a una lista de controversias que rodean a esta funcionalidad. La tecnolog\u00eda, que busca resumir informaci\u00f3n de la web para el usuario, ha demostrado ser propensa a fallos vergonzosos en el pasado.<\/p>\n No es la primera vez que los res\u00famenes de IA de Google acaparan titulares por las razones equivocadas. Anteriormente, el sistema lleg\u00f3 a sugerir a los usuarios que pusieran pegamento en la pizza<\/strong> para que el queso se adhiriera mejor o que comer piedras pod\u00eda ser beneficioso. Aunque esos errores eran absurdos, los fallos actuales en el \u00e1mbito m\u00e9dico cruzan la l\u00ednea hacia un terreno mucho m\u00e1s delicado. Ya no es que la IA est\u00e9 secuestrando el contenido creado por los sitios<\/a>, es que puede poner en riesgo la vida de las personas.<\/p>\n