El debate en torno a la inteligencia artificial sigue estando en el punto de mira. El pasado 9 de septiembre, el investigador de IA Jacob Coxon dimitió de Anthropic asegurando que «la IA podría matarnos a todos al final de esta década». En La Mesa de Hora 25 hemos consultado al presidente de la Asociación de IA Generativa en España (GENAiA), Óscar Méndez, acerca de este riesgo.

Méndez ha asegurado que «se está hablando de una probabilidad del 10%». El presidente de GENAiA ha explicado este peligro con el ejemplo de las centrales nucleares: «Están reguladas porque la energía nuclear podría acabar con la humanidad. El riesgo que se asume en una central nuclear es un 1 por 100.000. Un 10% de que acabe con la humanidad (la inteligencia artificial) es una barbaridad».

Según Óscar Méndez, la IA tiene la capacidad para destruir la humanidad: «Ahora tiene acceso a armas, a hackear sistemas de armamento de todo tipo, etc. Podría hacerlo en un futuro».

El presidente de GENAiA ha comparado este fenómeno con el Proyecto Manhattan, el proyecto secreto de Estados Unidos durante la II Guerra Mundial para fabricar la bomba atómica; aunque ha explicado que «el Proyecto Manhattan de la IA lo hacen empresas privadas». «No hay ningún control y lo que hay es una carrera por ver quién llega a superinteligencia antes, en la que el control y la seguridad de las personas están claramente de lado», ha advertido.

Méndez considera que los gobiernos van tardísimo, mientras que las empresas van rapidísimo. «Por eso el 2030 no es una fecha disparatada», ha afirmado.

El fenómeno de la superinteligencia

En los últimos años, la inteligencia artificial se ha mejorado a sí misma, por lo que es más inteligente y se mejora más rápido. Este fenómeno es descrito por los expertos como «crecimiento exponencial».

Más información

«En un período de tiempo muy corto podemos llegar a superinteligencia. Superinteligencia es un sistema de IA que tiene más inteligencia que todos los cerebros de todas las personas que han vivido en el planeta hasta ese momento», ha explicado Méndez.

El presidente de GENAiA ha asegurado que si se llega a la superinteligencia, «la IA podrá crear sus propias matemáticas, propias leyes físicas, crear nuevos tipos de energía… con lo que será imposible contenerla».

Un punto de esperanza

Méndez considera que no hemos llegado a un punto de no retorno, pero advierte: «La inteligencia artificial se puede y se debe controlar».

Para él, el mayor reto tecnológico de la humanidad es la creación de una tecnología que permita que la superinteligencia conviva y coexista con la humanidad de una manera sinérgica. «Lo podemos hacer, se ha hecho en el pasado. Si a nivel global todos los países se ponen de acuerdo, podemos hacer algo que haga que esa inteligencia beneficie a la humanidad en vez de destruirla», ha asegurado Méndez.