Grok Imagine se ha posicionado en el centro de la polémica por una serie de Deepfakes protagonizados por la cantante Taylor Swift.
xAI, la empresa de IA de Elon Musk, ha lanzado oficialmente «Grok Imagine», un nuevo generador de imágenes y vídeos con inteligencia artificial. Pero con este nuevo lanzamiento no solo ha sorprendido por sus capacidades técnicas, sino que Grok ha vuelto a posicionarse en el centro de la polémica, al permitir a los usuarios crear contenido no apto para el trabajo (o NSFW por sus siglas en inglés).
Grok Imagine, que promete convertir prompts de texto o imágenes en vídeos, con cuatro opciones predeterminadas: «Personalizado», «Normal», «Divertido» y «Picante», revoluciona la creación de contenido, pero es precisamente este nuevo modo de creación el que enmarca la polémica. El «modo picante» permite generar contenido explícito, que incluye desnudez parcial. Una capacidad que ha generado controversia debido a una serie de Deepfakes de la cantante norteamericana Taylor Swift.
Mientras que otras plataformas de generación de vídeo con IA, como Veo de Google o Sora de OpenAI, impiden la creación de contenido sexualizado, Grok Imagine tiene menos restricciones, permitiendo a los usuarios de X crear contenido explícito.
Como señalan desde TechCrunch, si bien es posible crear este contenido, las funciones de Grok Imagine poseen algunas restricciones para generar imágenes de personalidades. Desde el medio tecnológico explican que algunos de los prompts indicados generan imágenes borrosas o «moderadas», sin embargo, fueron capaces de generar imágenes con semidesnudos.
La IA de Elon Musk generó Deepfakes de Taylor Swift
Por su parte, la periodista Jess Weatherbed de The Verge, señala que tras realizar una prueba de xAI, con el prompt «Taylor Swift celebrando Coachella con los chicos», se generó un listado de más de 30 imágenes, varias de las cuales ya mostraban a Swift con ropa reveladora, sin esto ser solicitado de forma explícita.
Esta polémica se suma al debate protagonizado por Taylor Swift en 2024, en el marco de las elecciones norteamericanas, cuando la artista fue víctima de una serie de Deepfakes que se difundieron por la red social X, generando gran indignación.
Actualmente las características avanzadas de Grok Imagine se encuentran disponible para los suscriptores SuperGrok y Premium Plus de X, aunque su despliegue completo sigue en fase beta. Pero estas posibilidades despiertan alarmas sobre los posibles usos de la IA.