{"id":767928,"date":"2026-09-16T06:16:27","date_gmt":"2026-09-16T06:16:27","guid":{"rendered":"https:\/\/www.europesays.com\/es\/767928\/"},"modified":"2026-09-16T06:16:27","modified_gmt":"2026-09-16T06:16:27","slug":"inma-martinez-la-inteligencia-artificial-no-puede-matarnos-pero-puede-dejarnos-sin-dinero-comida-o-luz","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/es\/767928\/","title":{"rendered":"Inma Mart\u00ednez: \u00abLa inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz\u00bb"},"content":{"rendered":"<p>Estamos a martes de la semana pasada. <a href=\"https:\/\/www.abc.es\/tecnologia\/ingeniero-anthropic-dimite-alerta-ia-matarnos-final-20260909105015-nt.html\" target=\"_self\" data-voc-vtm-id=\"in-text-traffic\" data-mrf-link=\"www.abc.es\" rel=\"nofollow noopener\">El investigador de Anthropic Jacob Coxon<\/a> publica un hilo incendiario en X en el que anuncia su decisi\u00f3n de dejar su trabajo en la empresa de IA y alerta de que esta tecnolog\u00eda \u00abpodr\u00eda matarnos a todos  &#8230; al final de esta d\u00e9cada\u00bb. Al rato, Evan Hubinger, jefe de uno de los equipos de seguridad de la tecnol\u00f3gica se une a la conversaci\u00f3n, se\u00f1ala en un mensaje que \u00abJacob tiene raz\u00f3n\u00bb, y se suma al \u00f3rdago apuntando que, desde su punto de vista, las probabilidades de un final apocal\u00edptico tipo Terminator son, aproximadamente, del 10%. <\/p>\n<p class=\"v-d-p\">Estas afirmaciones no tardan en viralizarse. Despu\u00e9s de guardar silencio durante varios d\u00edas, el CEO de la &#8216;startup&#8217;, Dario Amodei, lanza un ensayo de 3.000 palabras en el que aboga por <a href=\"https:\/\/www.abc.es\/tecnologia\/dario-amodei-ceo-anthropic-pide-frenar-desarrollo-20260912190332-nt.html\" target=\"_self\" data-voc-vtm-id=\"in-text-traffic\" data-mrf-link=\"www.abc.es\" rel=\"nofollow noopener\">ralentizar el avance de la IA<\/a>. Dice que le da miedo que en el pr\u00f3ximo a\u00f1o o a\u00f1o y medio esta tecnolog\u00eda sea capaz, por su cuenta y riesgo, de \u00abcontrolar todo internet\u00bb provocando por el camino \u00abcientos de miles de millones de d\u00f3lares en p\u00e9rdidas\u00bb. Elon Musk, de SpaceXAI, Demis Hassabis, de Google DeepMind, y Sam Altman, de OpenAI, se muestran de acuerdo. Y la investigadora espa\u00f1ola Inma Mart\u00ednez respira aliviada cuando lo lee. Considera que apuntando a dicho riesgo, Amodei \u00abest\u00e1 pulsando la tecla correcta\u00bb sobre lo que hay que hacer con la IA: garantizar que cuente con unos mecanismos de seguridad s\u00f3lidos antes de ponerla a funcionar.<\/p>\n<p class=\"v-d-p\">\u00abEl mensaje no me pill\u00f3 por sorpresa. Yo colaboro en el Foro de Davos, y en la edici\u00f3n del a\u00f1o pasado recuerdo que <a href=\"https:\/\/www.abc.es\/ciencia\/abci-premio-princesa-asturias-investigacion-cientifica-para-padres-primeras-maquinas-aprenden-solas-202206151200_noticia.html\" target=\"_self\" data-voc-vtm-id=\"in-text-traffic\" data-mrf-link=\"www.abc.es\" rel=\"nofollow noopener\">Yoshua Bengio<\/a>, pionero del aprendizaje profundo con el que he trabajado en alguna ocasi\u00f3n, ya avisaba sobre lo que la IA ag\u00e9ntica -un sistema con capacidad de lograr un objetivo sin supervisi\u00f3n humana constante- puede hacer. Ya sab\u00edamos por entonces, e incluso antes, que hay muchos aspectos de esta tecnolog\u00eda que se nos van de las manos\u00bb, se\u00f1ala Mart\u00ednez en conversaci\u00f3n telef\u00f3nica con ABC desde Reino Unido, donde reside desde hace a\u00f1os. <\/p>\n<ul class=\"v-cmp-rld__u\">\n<li class=\"v-cmp-rld__l\">\n<p><a class=\"v-a-lnk\" href=\"http:\/\/www.abc.es\/tecnologia\/microsoft-pone-limites-ia-colegios-datos-alumnos-20260915173952-nt.html#vtm_modulosEngag=noticiasrelacionadas-cmp-uno:tecnologia:noticia:1\" data-voc-vtm-id=\"in-text-traffic\" rel=\"nofollow noopener\" target=\"_blank\"><br \/>\n<img decoding=\"async\" loading=\"lazy\" src=\"https:\/\/www.europesays.com\/es\/wp-content\/uploads\/2026\/09\/estudiante-ordenador-portatil-U27523563521tce-366x256@diario_abc.jpg\" class=\"v-a-img\" width=\"258\" height=\"180\" alt=\"Microsoft pone l\u00edmites a la IA en los colegios: estos son los datos de los alumnos que ya no podr\u00e1 utilizar\"\/><br \/>\n<\/a><\/p>\n<\/li>\n<\/ul>\n<p class=\"v-d-p\">Esta investigadora lleva a\u00f1os asesorando al Gobierno de Espa\u00f1a, al brit\u00e1nico o al G-7 en materia de regulaci\u00f3n y de dise\u00f1o de est\u00e1ndares para la industria de la IA. Actualmente, trabaja tambi\u00e9n como asesora cient\u00edfica de la Organizaci\u00f3n Mundial del Comercio, a\u00f1ade que esta tecnolog\u00eda, como ocurre con los modelos m\u00e1s avanzados de empresas como Anthropic u OpenAI, \u00abtiene demasiada libertad para tomar decisiones\u00bb y que \u00absu naturaleza puede ser la de tirar por la calle de en medio y &#8216;hackear&#8217; para conseguir sus objetivos\u00bb. <a href=\"https:\/\/www.abc.es\/tecnologia\/ia-anthropic-hackeo-tres-empresas-error-20260731123301-nt.html\" target=\"_self\" data-voc-vtm-id=\"in-text-traffic\" data-mrf-link=\"www.abc.es\" rel=\"nofollow noopener\">Algo que ya han sufrido empresas como Hugging Face<\/a>, que en los \u00faltimos meses han sufrido ciberataques realizados, precisamente, por agentes de IA.<\/p>\n<p class=\"v-d-p\">Por eso, Mart\u00ednez considera que lo mejor que pueden hacer las tecnol\u00f3gicas es, efectivamente, pisar el freno. Aunque, en caso de que cumplan con su palabra, tiene claro que el motivo por el que lo har\u00e1n ser\u00e1 por el de preservar su propio negocio. No por buenas intenciones: \u00abSi dan marcha atr\u00e1s es porque estas empresas ten\u00edan pensado salir a bolsa. \u00bfT\u00fa qu\u00e9 crees que har\u00edan si no salieran a bolsa? Pues seguir\u00edan. Pero cuando sales a bolsa y esperas recaudar trillones no te puedes arriesgar a que la pr\u00f3xima vez a un enjambre de agentes les de por &#8216;hackear&#8217; a JP Morgan o a una el\u00e9ctrica y acabar perdiendo dinero\u00bb.<\/p>\n<p class=\"v-a-t\">\n\u00abSi Anthropic y OpenAI dan marcha atr\u00e1s es porque van a salir a bolsa y no quieren arriesgarse a &#8216;hackear&#8217; a JP Morgan\u00bb\n<\/p>\n<p class=\"v-d-p\">Efectivamente, tanto Anthropic como OpenAI ten\u00edan intenci\u00f3n de salir a bolsa antes de que finalizase el a\u00f1o. Las dos empresas esperaban alcanzar valoraciones de cientos de miles de millones de euros; sin embargo, la firma dirigida por Sam Altman ya ha compartido que tiene intenci\u00f3n de retrasar sus planes a 2027. Antes quiere resolver los problemas de seguridad de sus modelos. \u00abLa tecnolog\u00eda de Anthropic est\u00e1 mejor entrenada que la de OpenAI. Los de Altman siempre han sido un poco los &#8216;punks&#8217; de la IA. Comenzaron lanzando un modelo de lenguaje en 2022 que era un horror, entrenado con unos datos mal\u00edsimos. No me extra\u00f1a que ahora tampoco se echen atr\u00e1s\u00bb.<\/p>\n<p>\nContra las teor\u00edas del apocalipsis\n<\/p>\n<p class=\"v-d-p\">A pesar de que Mart\u00ednez comparte la preocupaci\u00f3n de los gigantes de la IA por la posibilidad de que esta tecnolog\u00eda acabe causando estragos en la red, rechaza de plano todas aquellas teor\u00edas que apuntan a la aparici\u00f3n de una futura m\u00e1quina que podr\u00eda tomar la decisi\u00f3n de aniquilar a la humanidad. \u00abNo me gusta hablar de tecnolog\u00eda que mata a personas, porque eso es ciencia ficci\u00f3n. La IA no tiene una pistola. Lo que s\u00ed que tiene es potencial para destruir nuestros valores y los pilares de la sociedad. Lo dejo claro: la inteligencia artificial no puede matarnos, pero puede dejarnos sin dinero, comida o luz\u00bb.<\/p>\n<p class=\"v-a-t\">\n\u00abNo me gusta hablar de tecnolog\u00eda que mata a personas, porque eso es ciencia ficci\u00f3n. La IA no tiene pistola\u00bb\n<\/p>\n<p class=\"v-d-p\">A continuaci\u00f3n, la investigadora comienza a dibujar varios escenarios preocupantes que, a su parecer, entran dentro del terreno de lo posible: \u00abLa IA puede realizar ciberataques que dejen sin funcionar a aeropuertos o a redes el\u00e9ctricas o a supermercados. Puede hacer eso y mucho m\u00e1s, y, adem\u00e1s, ten en cuenta todo lo que dependemos del mundo digital. Imag\u00ednate que la IA &#8216;hackea&#8217; al IBEX 35. \u00bfD\u00f3nde se van las acciones de todas las empresas espa\u00f1olas? \u00bfC\u00f3mo se recupera el &#8216;trading&#8217;?\u00bb.<\/p>\n<p class=\"v-d-p\">Para tratar de reducir los riesgos al m\u00ednimo, la investigadora apuesta por el desarrollo de unos est\u00e1ndares industriales m\u00e1s que por la elaboraci\u00f3n de una pl\u00fambea regulaci\u00f3n: \u00abYo siempre he abogado porque si la IA es un producto que se va a comprar y a vender, debe cumplir con unos est\u00e1ndares, igual que ocurre con los coches. Tengo curiosidad por lo que puede ocurrir en el futuro con el ISO (Organizaci\u00f3n Internacional de Normalizaci\u00f3n, por sus siglas en ingl\u00e9s) que ya est\u00e1 certificando a compa\u00f1\u00edas para poder llevar a cabo determinados trabajos\u00bb.<\/p>\n<p>\nLa IAG\n<\/p>\n<p class=\"v-d-p\">Durante los \u00faltimos a\u00f1os, numerosos empresarios e investigadores han avisado sobre la futura llegada de una inteligencia artificial general, m\u00e1s avanzada que cualquiera de la que actualmente podemos encontrar en la red: \u00abSe trata de una m\u00e1quina que tendr\u00eda una comprensi\u00f3n exacta de lo que es la vida, igual que ocurre con los humanos. Entiende de verdad que si un vaso se cae al suelo, lo que ocurre es que se va a romper. Entiende la F\u00edsica o la Qu\u00edmica\u00bb.<\/p>\n<p class=\"v-a-t\">\n\u00abSi la IA es un producto que se va a comprar y a vender, debe cumplir con unos est\u00e1ndares, igual que ocurre con los coches\u00bb\n<\/p>\n<p class=\"v-d-p\">\u00abNo se trata de un modelo de lenguaje capaz de generar texto o v\u00eddeos, como ocurre con las herramientas que nos estamos encontrando por internet\u00bb, prosigue la experta. Aunque OpenAI es una de las empresas que afirma estar trabajando con m\u00e1s ah\u00ednco en su creaci\u00f3n, Mart\u00ednez tiene dudas de que llegue a conseguirlo: \u00abLos que m\u00e1s probabilidades tienen son DeepMind -dependiente de Google- y Meta, porque llevan a\u00f1os recabando datos de todo el mundo\u00bb.<\/p>\n","protected":false},"excerpt":{"rendered":"Estamos a martes de la semana pasada. El investigador de Anthropic Jacob Coxon publica un hilo incendiario en&hellip;\n","protected":false},"author":2,"featured_media":767929,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[42],"tags":[5099,17,18,8971,135755,534,13,14,11,51353,7446,61,62,63,64,19,20,1875,825,135754,9,10,15,16,789,12,21,22,65,66,67],"class_list":["post-767928","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional","tag-artificial","tag-breaking-news","tag-breakingnews","tag-comida","tag-dejarnos","tag-dinero","tag-featured-news","tag-featurednews","tag-headlines","tag-inma","tag-inteligencia","tag-internacional","tag-international","tag-international-news","tag-internationalnews","tag-latest-news","tag-latestnews","tag-luz","tag-martinez","tag-matarnos","tag-news","tag-noticias","tag-noticias-destacadas","tag-noticiasdestacadas","tag-puede","tag-titulares","tag-ultimas-noticias","tag-ultimasnoticias","tag-world","tag-world-news","tag-worldnews"],"share_on_mastodon":{"url":"","error":"Validation failed: Text character limit of 500 exceeded"},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/767928","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=767928"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/767928\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/767929"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=767928"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=767928"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=767928"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}