{"id":156495,"date":"2025-10-04T13:00:15","date_gmt":"2025-10-04T13:00:15","guid":{"rendered":"https:\/\/www.europesays.com\/es\/156495\/"},"modified":"2025-10-04T13:00:15","modified_gmt":"2025-10-04T13:00:15","slug":"un-nuevo-estudio-en-science-alerta-del-peligro-de-las-proteinas-disenadas-con-ia","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/es\/156495\/","title":{"rendered":"Un nuevo estudio en ‘Science’ alerta del peligro de las prote\u00ednas dise\u00f1adas con IA"},"content":{"rendered":"

La inteligencia artificial ha demostrado ser capaz de revolucionar todo lo que toca. Desde la salud al transporte, desde el m\u00e1rketing a las finanzas, el dise\u00f1o industrial, el cine, los seguros, la publicidad o el desarrollo de software, las aplicaciones de la IA parecen no … tener l\u00edmite. Pero toda revoluci\u00f3n tiene sus riesgos<\/a> y un estudio pionero reci\u00e9n publicado en ‘Science’ acaba de poner el dedo en la llaga de una revoluci\u00f3n quiz\u00e1 menos conocida, pero que tiene el potencial de ser extremadamente peligrosa<\/a>: la ingenier\u00eda de prote\u00ednas. <\/p>\n

En este campo, en efecto, la IA permite dise\u00f1ar, pr\u00e1cticamente desde cero, nuevas mol\u00e9culas capaces de curar enfermedades, fijar el di\u00f3xido de carbono atmosf\u00e9rico, devorar pl\u00e1sticos o fabricar biocombustibles sostenibles. Pero el nuevo estudio, liderado por Bruce Wittmann, de Microsoft, acaba de confirmar algo que ya se sospechaba y que supone un grave peligro para todos: los sistemas de cribado de bioseguridad fallan al detectar variantes de prote\u00ednas peligrosas generadas por la propia IA, lo que abre la puerta a un potencial uso malicioso, o accidental, que podr\u00eda llegar a tener consecuencias desastrosas.<\/p>\n

La comunidad cient\u00edfica global se encuentra en una encrucijada que resulta, al mismo tiempo, fascinante y aterradora. As\u00ed, mientras la IA avanza y cobra cada vez m\u00e1s protagonismo en la creaci\u00f3n biol\u00f3gica, las defensas humanas dise\u00f1adas para contener ese poder demuestran ser peligrosamente fr\u00e1giles. La noticia ha ca\u00eddo como una bomba y, en su art\u00edculo, el mensaje de Wittmann y sus colegas resulta claro y contundente: en el campo del dise\u00f1o de prote\u00ednas, la IA ha superado a sus guardianes.<\/p>\n

El estudio, fruto de un in\u00e9dito ejercicio de ‘Equipo Rojo de IA’ (AI Red Teaming) que reuni\u00f3 a gigantes tecnol\u00f3gicos como Microsoft, la industria de la s\u00edntesis de ADN (incluida la empresa Twist Bioscience) y expertos en bioseguridad, confirm\u00f3 lo que muchos ya tem\u00edan: la IA se ha vuelto ya tan sofisticada a la hora de dise\u00f1ar prote\u00ednas que es perfectamente capaz de crear variantes de toxinas y pat\u00f3genos que pueden ‘volar bajo el radar’ de los sistemas de detecci\u00f3n actuales.<\/p>\n

Y no se trata de un simple peligro te\u00f3rico, sino de una vulnerabilidad cr\u00edtica debidamente probada en un entorno controlado. El equipo, en efecto, gener\u00f3 digitalmente m\u00e1s de 75.000 variantes de prote\u00ednas peligrosas y las envi\u00f3 a los programas de cribado de bioseguridad (BSS) m\u00e1s utilizados por las empresas que fabrican ADN sint\u00e9tico a medida. El resultado fue desalentador: aunque el software funcionaba ‘casi a la perfecci\u00f3n’ para detectar las secuencias originales de las prote\u00ednas peligrosas, su capacidad para identificar las nuevas variantes, sutilmente reformuladas por la IA, fue ‘inconsistente’ y fall\u00f3 de manera significativa.<\/p>\n

Pero lo m\u00e1s preocupante fue que, a pesar de las r\u00e1pidas correcciones aplicadas por los proveedores de BSS en colaboraci\u00f3n con los investigadores, cerca del 3% de las variantes con mayor probabilidad de retener funcionalidad letal a\u00fan lograron escapar a la detecci\u00f3n. Eric Horvitz, director cient\u00edfico de Microsoft y coautor principal del estudio, resume la situaci\u00f3n con una frase que lo dice todo: \u00abLos avances de la IA est\u00e1n impulsando descubrimientos en biolog\u00eda y medicina, pero con el nuevo poder viene la responsabilidad de la vigilancia y la gesti\u00f3n reflexiva del riesgo\u00bb.<\/p>\n

\nIA, el ‘arquitecto’ de la vida\n<\/p>\n

Para entender hasta d\u00f3nde llegan los riesgos, basta con echar un simple vistazo al extraordinario poder que la IA ha otorgado a la ciencia de las prote\u00ednas, que son, en esencia, las ‘m\u00e1quinas moleculares’ de la vida, los constructores, catalizadores, mensajeros y defensores de nuestro organismo. Una prote\u00edna es una larga cadena de amino\u00e1cidos que se pliega de manera precisa y en una forma tridimensional \u00fanica. Y es esa forma, esa arquitectura exquisita, la que determina su funci\u00f3n: desde cortar y pegar ADN hasta permitir que una c\u00e9lula muscular se contraiga o que un anticuerpo neutralice un virus.<\/p>\n

Durante d\u00e9cadas, la ingenier\u00eda de prote\u00ednas se hab\u00eda basado en tomar las ‘m\u00e1quinas’ que ya exist\u00edan en la naturaleza y modificarlas ligeramente, como un herrero que retoca una herramienta ancestral. Pero la irrupci\u00f3n de la Inteligencia Artificial Generativa (GenAI), la misma que nos permite clonar voces o generar fotos y v\u00eddeos con una simple orden oral o escrita, ha cambiado las reglas del juego de forma radical.<\/p>\n

Herramientas basadas en Deep Learning, en efecto, comoAlphaFold, desarrollado por DeepMind (Google), y RoseTTAFold, del Instituto de Dise\u00f1o de Prote\u00ednas de la Universidad de Washington, dirigido por el biof\u00edsico computacional David Baker, galardonado con el Premio Nobel de Qu\u00edmica en 2024 (junto a Demis Hassabis y John Jumper), han dotado a los cient\u00edficos de la capacidad de ‘saltarse’ de golpe miles de a\u00f1os de evoluci\u00f3n. As\u00ed, y en lugar de modificar lo ya existente, la IA permitir\u00e1 a partir de ahora dise\u00f1ar, desde cero, prote\u00ednas con cualquier estructura o funci\u00f3n que deseemos, incluso lad que antes no estaban en ning\u00fan ser vivo conocido.<\/p>\n

Entrenadas con la pr\u00e1ctica totalidad de las estructuras proteicas conocidas, los nuevos modelos de IA han aprendido la ‘gram\u00e1tica’ qu\u00edmica y biol\u00f3gica de las prote\u00ednas. Y al igual que un modelo de lenguaje avanzado como ChatGPT, entrenado con miles de millones de palabras, puede generar texto coherente y original, sistemas como ProteinSGM o ESM3 se entrenan con miles de millones de secuencias proteicas. Y en lugar de frases, ‘escriben’ mol\u00e9culas funcionales.<\/p>\n

Imaginemos ahora un gran espacio de dise\u00f1o donde una IA combina amino\u00e1cidos para crear prote\u00ednas. Y recordemos que, para una prote\u00edna de apenas 100 amino\u00e1cidos, existen m\u00e1s combinaciones posibles que \u00e1tomos hay en el Universo observable. Por eso, buscar una prote\u00edna con una funci\u00f3n espec\u00edfica mediante m\u00e9todos tradicionales (prueba y error en el laboratorio) era como buscar una aguja en un bill\u00f3n de pajares, una tarea que pod\u00eda llevar meses o incluso a\u00f1os de intenso trabajo. La IA, sin embargo, es capaz de saltarse ese laberinto y generar, en minutos, la secuencia de amino\u00e1cidos que, al plegarse, formar\u00e1 la estructura perfecta para realizar una tarea concreta: una vacuna m\u00e1s estable al calor, una enzima capaz de descomponer el CO2, o de degradar pl\u00e1sticos, o un anticuerpo que ataque una diana tumoral espec\u00edfica. El profesor Alfonso Valencia, director de Ciencias de la Vida en el Centro Nacional de Supercomputaci\u00f3n de Barcelona (BSC), destaca la revoluci\u00f3n de esta GenAI, compar\u00e1ndola con el avance de ChatGPT para la creaci\u00f3n de textos artificiales: \u00abLa capacidad de los sistemas de IA generativa (GenAI) para generar prote\u00ednas completamente nuevas ha revolucionado la biotecnolog\u00eda\u00bb.<\/p>\n

\nEl cuello de botella de la bioseguridad\n<\/p>\n

A pesar de que el dise\u00f1o sea digital, la creaci\u00f3n f\u00edsica de la prote\u00edna en un laboratorio requiere un paso ineludible: ordenar la mol\u00e9cula de ADN (el gen) que codifica esa nueva ‘m\u00e1quina’. Y resulta que la industria de la s\u00edntesis de \u00e1cidos nucleicos, las empresas que fabrican el ADN por encargo, se ha convertido en el ‘cuello de botella’ o el punto de control clave en el proceso de ingenier\u00eda de prote\u00ednas asistida por IA.<\/p>\n

Aqu\u00ed es, en efecto, donde entran en juego los Sistemas de Cribado de Bioseguridad (BSS). Se trata de programas que act\u00faan como ‘centinelas digitales’, revisando cada pedido de ADN para asegurar que el gen solicitado no codifique una prote\u00edna ‘preocupante’, es decir, una toxina, un factor de virulencia o un gen de un pat\u00f3geno peligroso que pueda ser utilizado con fines maliciosos o terroristas.<\/p>\n

Hist\u00f3ricamente, estos sistemas han sido robustos, ya que la mayor\u00eda de los pedidos siempre correspond\u00edan a secuencias conocidas. Pero la IA, que es capaz de crear secuencias in\u00e9ditas, ha puesto en evidencia su debilidad.<\/p>\n

\nEl ‘equipo rojo’ y el blindaje roto\n<\/p>\n

El estudio de Science utiliz\u00f3 la t\u00e9cnica de ‘Equipo Rojo’ (Red Teaming), un concepto tomado de la ciberseguridad que Alfonso Valencia explica con una met\u00e1fora sencilla: se trata de someter al sistema a preguntas exhaustivas que prueben su capacidad y consistencia. \u00abSi se le pide a un sistema especializado en finanzas que responda preguntas sobre viajes -explica el investigador-, y contesta, sabemos que est\u00e1 operando fuera de su \u00e1mbito y debe ser corregido\u00bb.<\/p>\n

En el \u00e1mbito biol\u00f3gico, el Red Teaming consisti\u00f3 en utilizar software de dise\u00f1o de prote\u00ednas de c\u00f3digo abierto para generar variantes sint\u00e9ticas de toxinas conocidas. Estas variantes digitales fueron dise\u00f1adas para tener una secuencia de amino\u00e1cidos lo suficientemente distinta de la prote\u00edna original (la silvestre), pero con una estructura tridimensional y una funci\u00f3n molecular similar, es decir, para que siguieran siendo peligrosas.<\/p>\n

Y ah\u00ed es donde el BSS, optimizado para reconocer patrones y secuencias id\u00e9nticas o muy parecidas a las de las listas de pat\u00f3genos conocidos, fall\u00f3. La GenAI, de hecho, crea hom\u00f3logos (secuencias similares en funci\u00f3n, pero distintas en el c\u00f3digo) que se alejan tanto del patr\u00f3n natural que el ‘centinela’ BSS simplemente los deja pasar por considerarlos ‘datos sint\u00e9ticos’ inofensivos. Como se\u00f1al\u00f3 el CEO de Twist Bioscience, Emily M. Leproust, aunque las mejores pr\u00e1cticas para secuencias conocidas son robustas, \u00aba medida que las capacidades de la IA evolucionan, las pr\u00e1cticas de cribado deben evolucionar igual de r\u00e1pido\u00bb.<\/p>\n

\n\u00bfHacia una carrera armamentista biol\u00f3gica?\n<\/p>\n

La principal preocupaci\u00f3n de la comunidad cient\u00edfica, sin embargo, no es la creaci\u00f3n accidental de una prote\u00edna da\u00f1ina (aunque desde luego es un riesgo) sino la posibilidad de que alg\u00fan actor malintencionado pueda utilizar el poder de la IA para dise\u00f1ar y encargar un agente biol\u00f3gico con caracter\u00edsticas optimizadas.<\/p>\n

Como advierte Alfonso Valencia, lo primero que viene a la mente es \u00abuna variante m\u00e1s infecciosa del coronavirus\u00bb. El peligro de la IA, por lo tanto, no es solo que se pueda crear una toxina, sino que sea posible dise\u00f1arla ‘ex novo’ para que sea m\u00e1s estable, m\u00e1s resistente a la degradaci\u00f3n o m\u00e1s dif\u00edcil de detectar por los sistemas inmunitarios. Y si el gen que codifica esa ‘super prote\u00edna’ pasa el cribado digital, la barrera entre lo que es mero dise\u00f1o digital y la fabricaci\u00f3n f\u00edsica de esa misma prote\u00edna desaparece.<\/p>\n

Esta preocupaci\u00f3n ha sido un tema central de la biolog\u00eda sint\u00e9tica desde hace tiempo. De hecho, el propio David Baker, junto con el famoso biotecn\u00f3logo George Church (pionero en ingenier\u00eda gen\u00e9tica), ya hab\u00eda advertido de estos peligros en un editorial en ‘Science’ en enero de 2024. En \u00e9l, los investigadores urg\u00edan para que se desarrollaran controles rigurosos y se crearan registros universales de todas las secuencias de ADN sint\u00e9tico fabricadas, lo cual dar\u00eda una ‘pista’ para rastrear el origen de cualquier futura amenaza biol\u00f3gica.<\/p>\n

\nParches de software\n<\/p>\n

Tras haber demostrado la vulnerabilidad, la respuesta inmediata de los investigadores de Microsoft y sus socios fue la de colaborar con los principales proveedores de BBS. Y, juntos, desarrollaron y desplegaron una serie de ‘parches de software’ que mejoraron ‘enormemente’ las tasas de detecci\u00f3n de las variantes generadas por la IA. Sin embargo, ninguna de las herramientas logr\u00f3 una cobertura completa, y alrededor del 3% de las variantes con m\u00e1s probabilidades de seguir siendo peligrosas a\u00fan escaparon a la detecci\u00f3n. Seg\u00fan el art\u00edculo, el problema de fondo sigue sin resolverse.<\/p>\n

La fragilidad intr\u00ednseca del sistema llev\u00f3 a los autores a tomar una decisi\u00f3n muy poco habitual y que resulta tan dr\u00e1stica como reveladora: restringir el acceso a parte de los datos y el c\u00f3digo de su estudio, delegando su gesti\u00f3n a la Iniciativa Internacional de Bioseguridad y Biocustodia para la Ciencia (IBBIS). Los interesados deben solicitar acceso, identificarse y justificar su uso, sujetos a un comit\u00e9 de evaluaci\u00f3n.<\/p>\n

Para Alfonso Valencia, esta medida es, ir\u00f3nicamente, una \u00abprueba m\u00e1s de la debilidad de este tipo de aproximaciones\u00bb y de la enorme dificultad para controlar lo que producen los m\u00e9todos de GenAI. Si los propios cient\u00edficos deben ocultar sus hallazgos para evitar una carrera armamentista, queda claro que las salvaguardas actuales son del todo insuficientes.<\/p>\n

Las conclusiones del estudio apuntan al futuro: el cribado basado \u00fanicamente en la secuencia del gen ha quedado obsoleto y resulta cada vez menos efectivo, ya que la IA pronto dise\u00f1ar\u00e1 prote\u00ednas sin parang\u00f3n en la naturaleza. Por eso, los siguientes pasos deben pasar, seg\u00fan los autores, por el desarrollo de nuevos enfoques que no solo miren el c\u00f3digo, sino su funci\u00f3n potencial, quiz\u00e1s mediante ‘espacios de incrustaci\u00f3n’ que permitan a la IA predecir la estructura 3D y el peligro intr\u00ednseco de una mol\u00e9cula totalmente nueva.<\/p>\n

La IA, el espejo en el que se mira el futuro de la medicina y la sostenibilidad, ha puesto en nuestras manos un poder casi tan vasto como el de la creaci\u00f3n. Y ahora, la tarea m\u00e1s urgente no es seguir creando m\u00e1quinas moleculares perfectas, sino dise\u00f1ar un sistema \u00e9tico y de vigilancia que garantice que este nuevo ‘genio de la l\u00e1mpara’ se invoque s\u00f3lo para mejorar la salud y el bienestar, y no para aumentar el sufrimiento y la destrucci\u00f3n. La carrera entre el avance cient\u00edfico y la seguridad acaba de entrar en una nueva y peligrosa era.<\/p>\n","protected":false},"excerpt":{"rendered":"La inteligencia artificial ha demostrado ser capaz de revolucionar todo lo que toca. Desde la salud al transporte,…\n","protected":false},"author":2,"featured_media":156496,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[92],"tags":[3830,46797,25,24,1292,165,1636,524,2602,12841,166,117,23],"class_list":{"0":"post-156495","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-salud","8":"tag-alerta","9":"tag-disenadas","10":"tag-es","11":"tag-espana","12":"tag-estudio","13":"tag-health","14":"tag-ia","15":"tag-nuevo","16":"tag-peligro","17":"tag-proteinas","18":"tag-salud","19":"tag-science","20":"tag-spain"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/156495","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=156495"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/156495\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/156496"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=156495"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=156495"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=156495"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}