En la carrera de la inteligencia artificial, las novedades se suceden m\u00e1s r\u00e1pido de lo que se tardan en digerir. En este mundo inabarcable de anuncios dist\u00f3picos y estrategias de relaciones p\u00fablicas para exagerar los logros, resulta complicado distinguir entre un avance cr\u00edtico y una actualizaci\u00f3n prometedora. Pero el \u00faltimo modelo de inteligencia artificial de Anthropic amenaza con hacer estragos en los sistemas de seguridad inform\u00e1tica de todo el planeta.<\/p>\n
Anthropic, una de las empresas pioneras de la inteligencia artificial, anunci\u00f3 a principios de este mes que ha desarrollado un modelo de IA tan potente que en cuesti\u00f3n de minutos es capaz de descubrir vulnerabilidades y fallos ocultos en los sistemas inform\u00e1ticos y software de cualquier organizaci\u00f3n o empresa. El modelo se llama Mythos Preview y ha desatado el p\u00e1nico en todo el mundo entre dudas sobre su alcance real y la amenaza que supone para los gobiernos del planeta.<\/p>\n
La empresa, dirigida por Dario Amodei, una especie de gur\u00fa que aboga por el uso \u00e9tico de la tecnolog\u00eda, ha decidido restringir el uso de Mythos a medio centenar de empresas y operadores de infraestructuras cr\u00edticas, todos de origen estadounidense, para ayudar a levantar un muro de defensa antes de que los hackers encuentren la forma de explotar las debilidades de los sistemas inform\u00e1ticos. Anthropic ha denominado a este grupo Proyecto Glasswing, en referencia a un extra\u00f1o tipo de mariposa que tiene las alas transparentes para camuflarse en la naturaleza. Estas compa\u00f1\u00edas, entre las que se encuentran Apple, Amazon, Microsoft, Nvidia, JP Morgan, trabajan en desarrollar soluciones de seguridad para taponar las brechas detectadas por el modelo.<\/p>\n
Si este tipo de herramientas cayeran en manos indeseadas, podr\u00edan acceder a los sistemas inform\u00e1ticos de cualquier organizaci\u00f3n o empresa, incluyendo operadores cr\u00edticos como hospitales o gestores de sistemas el\u00e9ctricos, o a los sistemas de seguridad de los gobiernos y tomar el control de los sistemas operativos y navegadores que utilizan. Se trata, por tanto, de una amenaza no solo para que los criminales accedan a informaci\u00f3n confidencial, sino tambi\u00e9n de un riesgo de seguridad nacional.<\/p>\n
Grupo de seguridad<\/p>\n
El modelo, insisten los responsables de Anthropic, \u201cha identificado miles de vulnerabilidades adicionales de alta y cr\u00edtica gravedad\u201d. Y justifican: \u201cEstamos trabajando para divulgarlas de manera responsable\u201d.<\/p>\n
Mythos no es m\u00e1s que un modelo de lenguaje de prop\u00f3sito general parecido a su hermano Claude de Anthropic o ChatGPT de OpenAI, pero m\u00e1s avanzado y con capacidades mucho m\u00e1s desarrolladas. Durante sus pruebas, explican sus creadores, encontr\u00f3 y explot\u00f3 vulnerabilidades catalogadas como \u201cd\u00eda cero\u201d. Aquellas que eran desconocidas. Algunos, incluso, no hab\u00edan sido descubiertos en varios a\u00f1os, lo que da cuenta de la dificultad de detectarlos. Esto implica que a\u00fan no existen soluciones ni parches para evitar filtraciones indeseadas de los llamados fallos de \u201cd\u00eda cero\u201d. <\/p>\n
\u201cM\u00e1s del 99% de las vulnerabilidades que hemos detectado a\u00fan no se han corregido, por lo que ser\u00eda irresponsable divulgar detalles al respecto\u201d, se\u00f1al\u00f3 la compa\u00f1\u00eda en un art\u00edculo en su blog publicado el 9 de abril.<\/p>\n
Washington, Bruselas y Londres, entre otros, han expresado su preocupaci\u00f3n por la amenaza de Mythos. La Administraci\u00f3n estadounidense se ha apresurado a reconstruir las relaciones con Anthropic, rotas despu\u00e9s de que el presidente Donald Trump ordenara cortar todos los contratos p\u00fablicos con el gigante tecnol\u00f3gico, valorado en m\u00e1s de 350.000 millones de d\u00f3lares, por su resistencia a permitir el uso de todas las funcionalidades de sus modelos de IA para fines militares. <\/p>\n
Acuerdo con la Casa Blanca<\/p>\n
El Departamento de Defensa, que dirige Pete Hegseth, catalog\u00f3 en febrero a la empresa como un riesgo para la seguridad nacional, una decisi\u00f3n que ha supuesto un duro golpe contra Anthropic. Pero el nuevo hallazgo ha servido para resta\u00f1ar las heridas. <\/p>\n
La semana pasada, Dario Amodei visit\u00f3 la Casa Blanca para explicar el alcance del nuevo modelo de IA. Dos d\u00edas despu\u00e9s, Trump sugiri\u00f3 un nuevo acuerdo con Anthropic en una entrevista en la cadena CNBC. \u201cTuvimos conversaciones muy productivas con ellos, y creo que est\u00e1n progresando\u201d, dijo Trump. \u201cSon muy inteligentes, y creo que pueden ser de gran utilidad\u201d, abund\u00f3 durante su intervenci\u00f3n en horario de m\u00e1xima audiencia. Las declaraciones contrastan con las que verti\u00f3 tan solo un par de meses antes a trav\u00e9s de su red social, Truth: \u201c\u00a1Los Estados Unidos de Am\u00e9rica jam\u00e1s permitir\u00e1n que una empresa radical de izquierda y \u2018woke\u2019 decida c\u00f3mo nuestro ej\u00e9rcito lucha y gana guerras\u201d.<\/p>\n
Hasta el momento, el acceso a Mythos est\u00e1 restringido al selecto grupo de las 50 empresas del Proyecto Glassging. Anthropic tambi\u00e9n ha facilitado acceso a su sistema a la Casa Blanca y a Downing Street, en Londres. El Instituto Brit\u00e1nico de Seguridad de la IA que ha podido acceder a Mythos, ha confirmado que puede llevar a cabo ciberataques complejos que ning\u00fan modelo anterior de IA hab\u00eda logrado, seg\u00fan recoge The New York Times. \u201cLa IA est\u00e1 a punto de hacer que los ciberataques sean mucho m\u00e1s f\u00e1ciles y r\u00e1pidos, y la mayor\u00eda de las empresas no est\u00e1n preparadas\u201d, se\u00f1al\u00f3 el organismo.<\/p>\n
Preocupaci\u00f3n en Bruselas<\/p>\n
En Bruselas tambi\u00e9n cunde la preocupaci\u00f3n. El Ejecutivo comunitario ha mantenido, al menos, tres reuniones con ejecutivos de Anthropic desde el lanzamiento de Mythos, el pasado 9 de abril, aunque a\u00fan no ha podido analizarlo por diferencias sobre el acceso. Aun as\u00ed, la Comisi\u00f3n Europea manifest\u00f3 a trav\u00e9s de un comunicado que \u201cpresenta capacidades cibern\u00e9ticas sin precedentes\u201d. El Banco Central Europeo (BCE) ha preguntado a las entidades que supervisa por la robustez de sus sistemas inform\u00e1ticos. Los bancos europeos podr\u00edan ser los pr\u00f3ximos en probar Mythos para reforzar sus entornos tecnol\u00f3gicos.<\/p>\n
Hay cierta prisa por empezar a cerrar los supuestos fallos invisibles de los sistemas inform\u00e1ticos de bancos, energ\u00e9ticas o de cualquier compa\u00f1\u00eda. Anthropic cree que en los pr\u00f3ximos meses otras compa\u00f1\u00edas de inteligencia artificial conseguir\u00e1n modelos con capacidades similares a las de Mythos Entonces, el riesgo aumentar\u00e1 mucho m\u00e1s.<\/p>\n
\u201cLa versi\u00f3n preliminar de Claude Mythos supone un paso importante, pero no es un fen\u00f3meno aislado. En los pr\u00f3ximos meses, es probable que veamos modelos de la competencia \u2014posiblemente de c\u00f3digo abierto\u2014 que alcancen o incluso superen las capacidades de Mythos\u201d, explica Vivien Mura, responsable de tecnolog\u00eda de Orange Cyberdefense. <\/p>\n
\u201cNo vemos ninguna raz\u00f3n para pensar que Mythos Preview sea el punto en el que las capacidades de ciberseguridad de los modelos de lenguaje alcancen su l\u00edmite. La trayectoria es clara\u201d, a\u00f1aden los ingenieros de Anthropic.<\/p>\n
Tras el alarmismo de Mythos de Anthropic tambi\u00e9n se esconde una estrategia, buscada o no, para crear demanda y alimentar el negocio. Las empresas y organismos p\u00fablicos se pondr\u00e1n a la cola de la empresa para solicitar acceso al modelo para poder blindar sus sistemas inform\u00e1ticos. Adem\u00e1s, surge el dilema sobre si una empresa privada puede tener una herramienta tan potente capaz de desestabilizar gobiernos. <\/p>\n
Mientras tanto, comienzan las primeras filtraciones. Bloomberg public\u00f3 esta semana que usuarios no autorizados est\u00e1n accediendo a Mythos. La empresa ha abierto una investigaci\u00f3n y asegura que no tiene constancia de que el acceso est\u00e9 afectando a sus sistemas. <\/p>\n
\u201cA largo plazo, prevemos que las capacidades de defensa ser\u00e1n primordiales: el mundo emerger\u00e1 m\u00e1s seguro, con un software mejor reforzado, en gran medida gracias al c\u00f3digo escrito con estos modelos\u201d, se\u00f1ala Anthropic en su blog. \u201cSin embargo, el per\u00edodo de transici\u00f3n ser\u00e1 complejo. Por lo tanto, debemos empezar a actuar ahora\u201d, concluye<\/p>\n","protected":false},"excerpt":{"rendered":"En la carrera de la inteligencia artificial, las novedades se suceden m\u00e1s r\u00e1pido de lo que se tardan…\n","protected":false},"author":2,"featured_media":519642,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[80],"tags":[34570,17960,82,102831,95,94,2308,25,24,41512,136,101848,23],"class_list":["post-519641","post","type-post","status-publish","format-standard","has-post-thumbnail","category-economia","tag-anthropic","tag-ataques-informaticos","tag-business","tag-claude-anthropic","tag-economia","tag-economy","tag-empresas","tag-es","tag-espana","tag-hacker","tag-inteligencia-artificial","tag-mythos","tag-spain"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@es\/116475258831280006","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/519641","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=519641"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/519641\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/519642"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=519641"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=519641"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=519641"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}