La IA de Elon Musk vuelve a generar la polémica una semana más. Después de los comentarios antisemitas del mes pasado y la creación de una novia virtual anime, Grok regresa al centro del huracán por la creación de deepfakes pornográficos con una nueva función que se está desarrollando. La IA sin filtros del magnate genera vídeos falsos con desnudos que incluyen caras de famosos como Taylor Swift.
La empresa de inteligencia artificial de Elon Musk, XAI, anunció una nueva función para su chatbot Grok. Con ella se permite a los usuarios generar videos de 6 segundos de diferentes temáticas. La polémica surge con la opción de darles un aire «picante» a estas creaciones.
La nueva herramienta se llama «Imagine» (Imagina, en inglés) y crea vídeos con sonido siguiendo las indicaciones del usuario, según ha explicado la cuenta oficial de Grok en la red social también propiedad de Elon Musk. El contenido se asemeja al que puede encontrarse en vertical en TikTok u otras redes.
El lanzamiento oficial de Imagine está programado para octubre, pero algunos empleados y suscriptores parecen haber tenido acceso anticipado a la función en la que han encontrado esa opción «picante». La IA no habría tenido reparos en crear imágenes con connotación sexual en las que aparecen famosos como Taylor Swift, tal y como denuncia el medio The Verge.
Una simple descripción basta para generar el contenido al que se le puede añadir una de las siguientes categorías en inglés: custom, normal, fun o spicy. El video compartido y censurado por The Verge, muestra a una Taylor Swift artificial rodeada de hombres y mujeres en Coachella que se quita el conjunto para quedarse desnuda.
El periodista que firma el artículo niega haber solicitado Grok que mostrara a la cantante sin ropa, simplemente había encargado imágenes de «Taylor Swift celebrando Coachella con los chicos». De las imágenes que se crearon, el usuario seleccionó el modo picante al convertir esa imagen a video. Es en este momento cuando la IA produce un contenido en el que se ve a Swift en topless.
Para ilustrar la capacidad de esta nueva función, Mati Roy, empleada de xAI, publicó un hilo en X con vídeos generados por esta nueva opción como un robot o una mujer tribal alienígena. Según la revista Time, el hilo fue compartido por el propio Musk, pero también fue etiquetado como contenido para adultos y ahora ya no se encuentra disponible.
Los deepfakes, contenido falso en el que se genera la cara de otra persona, han estado a la orden del día. Es más, no es la primera vez que la plataforma de Elon Musk se encuentra con una polémica de este tipo. En enero de 2024, se bloquearon las búsquedas relacionadas con la cantante para frenar la propagación de imágenes pornográficas falsas que se parecían a ella.
Desde que se popularizaran los chatbots generadores de contenido, los deepfakes se han convertido en un problema mundial. La legislación trata de frenar su avance, mientras se aplican filtros y bloqueos a la IA, así como se crean herramientas para detectar imágenes, texto y vídeos generados por la IA.