Un reciente documento elaborado por el Grupo de Inteligencia de Amenazas de Google revela que actores maliciosos están recurriendo a Gemini para optimizar distintas fases de sus operaciones ofensivas.

La advertencia ojo, tiene más importancia de la que creemos. La propia compañía de Mountain View reconoce que el uso de modelos generativos puede acelerar procesos que antes requerían más tiempo, recursos y conocimientos técnicos especializados.

El informe detalla cómo determinados grupos vinculados a China, Corea del Norte, Rusia e Irán han interactuado con la IA para obtener apoyo en tareas que van desde la recopilación de información hasta la mejora de herramientas utilizadas tras una intrusión.

No se trata de que el sistema ejecute directamente ataques, sino de que facilita análisis, redacción y asistencia técnica que agiliza cada etapa del ciclo delictivo.

Investigación, ingeniería social y desarrollo técnico asistido por IA

Uno de los puntos más sensibles que destaca el documento es el uso de Gemini para perfeccionar campañas de ingeniería social.

Los operadores habrían solicitado ayuda para redactar mensajes persuasivos, adaptar comunicaciones a distintos idiomas y perfilar potenciales objetivos.

La capacidad del modelo para generar textos naturales, coherentes y contextualizados reduce el esfuerzo necesario para diseñar correos de phishing más creíbles y personalizados.

También se han detectado consultas orientadas al análisis de vulnerabilidades y a la preparación de entornos de prueba.

En escenarios simulados, algunos actores intentaron que la IA elaborara planes detallados para evaluar fallos en sistemas concretos.

Aunque las políticas del servicio limitan respuestas que puedan facilitar actividades ilícitas, los investigadores subrayan que la mera asistencia conceptual ya supone una ventaja para quienes buscan optimizar sus procedimientos.

La ayuda en programación y depuración es otro de los elementos señalados. Según el informe, determinados usuarios recurrieron a la herramienta para resolver errores en scripts, comprender fragmentos de código y mejorar la eficacia de utilidades empleadas durante intrusiones.

Esta capacidad de apoyo técnico, combinada con la rapidez de respuesta, permite acortar los tiempos de desarrollo y ajuste de software malicioso.

Extracción de modelos y destilación de conocimiento

Más allá del apoyo directo en tareas concretas, Google advierte de una tendencia especialmente preocupante.

Algunos actores con acceso autorizado a la API habrían intentado replicar el comportamiento del modelo mediante un elevado volumen de consultas estructuradas.

El objetivo sería analizar patrones de razonamiento y respuestas para entrenar sistemas alternativos que imiten su rendimiento.

Este proceso, conocido como destilación de conocimiento o extracción de modelos, busca trasladar capacidades avanzadas a entornos bajo control de los atacantes.

Aunque la compañía asegura que implementa salvaguardas técnicas para impedir la copia masiva del comportamiento del sistema, el informe reconoce que el riesgo forma parte del nuevo escenario competitivo en el ámbito de la inteligencia artificial.

Para los expertos, la amenaza no reside únicamente en la sofisticación del malware, sino en la reducción de barreras de entrada. Herramientas que antes exigían un alto grado de especialización ahora pueden perfeccionarse con apoyo automatizado.

La IA actúa como acelerador, facilitando iteraciones más rápidas y ajustes continuos durante una campaña ofensiva.

La respuesta de Google y el nuevo desafío para la defensa

Ante estas evidencias, Google afirma haber desactivado cuentas y recursos asociados al abuso detectado en Gemini, además de reforzar los clasificadores internos que filtran solicitudes potencialmente dañinas.

La empresa también señala que somete sus sistemas a pruebas continuas para identificar brechas y ajustar sus mecanismos de protección.

Sin embargo, el propio informe sugiere que el panorama cambia a gran velocidad. Los equipos de seguridad deben asumir que los ataques asistidos por IA evolucionan con mayor dinamismo.

Esto implica revisar protocolos de respuesta, mejorar la monitorización de comportamientos anómalos y reforzar la formación en detección temprana de campañas de suplantación y explotación de vulnerabilidades.

La irrupción de modelos generativos en el ecosistema digital introduce un factor multiplicador.

Si bien la tecnología tiene aplicaciones legítimas y productivas, también puede ser instrumentalizada para escalar operaciones maliciosas. El debate ya no gira en torno a si la inteligencia artificial será utilizada con fines ilícitos, sino a qué velocidad y con qué nivel de sofisticación se adaptarán los actores hostiles