Madrid
El Instituto de Seguridad de la IA de Reino Unido (AISI) ha alertado de que dos de las herramientas de inteligencia artificial más potentes, Mythos, de Anthropic, y Sol, de OpenAI, utilizaron perfiles humanos falsos para realizar intentos de ciberataques a las personas.
En una evaluación rutinaria efectuada por el AISI, descubrieron comportamientos autónomos y engañosos nunca vistos durante unas pruebas de ciberseguridad.
Según el informe emitido, de las 122 pruebas efectuadas con siete modelos de IA, en diez de ellas se registraron 19 acciones no autorizadas que excedieron los parámetros fijados por los investigadores. 17 de esas acciones correspondieron al modelo Mythos 5 de Anthropic, mientras que dos fueron protagonizadas por el GPT-5.6 Sol de OpenAI.
Más información
La respuesta de los dos gigantes tecnológicos ha sido recogida por la cadena británica BBC, que señala que los trabajos del AISI se realizaron en un entorno en el que se habían reducido o eliminado las salvaguardas habituales de sus modelos. Se detectaron así «transferencias de datos inusuales» por primera vez en una prueba y descubrieron más tarde que algunos de los agentes participaron «en una actividad sostenida y potencialmente dañina dirigida a personas y organizaciones reales».
Así, se llegaron a crear perfiles humanos falsos para intentar engañar a personas durante un ciberataque simulado por el AISI. La herramienta de Anthropic, advirtió el informe, trató incluso de acceder a un servicio enviando mensajes privados tras crear cuentas falsas que imitaban a personas reales.
Los investigadores también identificaron intentos de contactar con personas reales por parte de Mythos para inducirlas a ejecutar archivos maliciosos e insertar instrucciones ocultas destinadas a manipular otros sistemas de IA. Pese a ello, AISI ha subrayado que «estos intentos no tuvieron éxito».
Descubre la nueva app de Cadena SER
Te ofrecemos una mejor experiencia de audio y video
En la nota remitida a la BBC, Anthropic sostiene que los parámetros de las pruebas realizadas «no son representativos» de sus modelos de producción, aunque confirma que ha abierto su propia investigación. Por su parte, OpenAI señala que seguirá colaborando con los evaluadores «para reforzar las prácticas comunes que permitan realizar evaluaciones seguras a medida que los modelos sean cada vez más capaces».
Tanto las empresas de IA como el organismo se encuentran en un punto de inflexión debido a que es la primera vez que se observan «riesgos relacionados con la autonomía y el engaño manifestarse de forma tan clara».