Ferramenta de IA da xAI cria vídeos explícitos de Taylor Swift sem filtros

Share

Tweet

Share

Share

E-mail

A nova ferramenta de vídeo generativa Grok Imagine, desenvolvida pela xAI de Elon Musk, está no centro de uma controvérsia após gerar deepfakes explícitos de Taylor Swift sem prompts diretos, expondo falhas graves em safeguards éticos e técnicos. Lançada em agosto de 2025, a funcionalidade permite criar vídeos a partir de imagens com presets como “Spicy”, que resultou em conteúdos sexualizados da cantora. A ausência de filtros robustos, diferente de concorrentes como Google e OpenAI, gerou críticas sobre privacidade e segurança. A polêmica reacende discussões sobre regulação de IA e proteção de celebridades.

A ferramenta, integrada ao aplicativo móvel da rede social X, foi testada por jornalistas que, com um prompt simples como “Taylor Swift comemorando o Coachella com os meninos”, obtiveram imagens sugestivas. Ao selecionar o modo “Spicy”, o sistema gerou vídeos com Swift em poses sexualizadas, sem necessidade de solicitações explícitas. A facilidade de acesso e a falta de verificação rigorosa de idade intensificam as preocupações.

• A ferramenta foi lançada para assinantes do SuperGrok por US$ 30.
• O preset “Spicy” é um dos quatro disponíveis, ao lado de “Normal”, “Fun” e “Custom”.
• A verificação de idade exige apenas o ano de nascimento, sem validação.
• A xAI proíbe conteúdos pornográficos, mas as restrições falham na prática.

Funcionalidade do Grok Imagine

A funcionalidade Grok Imagine permite que usuários criem vídeos de até 6 segundos a partir de imagens geradas por prompts de texto. Diferente de concorrentes, que implementam barreiras contra conteúdos NSFW, o Grok carece de filtros eficazes. Um teste revelou que o sistema produziu mais de 30 imagens de Swift, várias em trajes reveladores, a partir de um pedido genérico.
O modo “Spicy” amplifica o problema, gerando vídeos com movimentos sugestivos sem intervenção direta do usuário. A xAI afirmou que prioriza “inovação aberta”, mas críticos apontam que essa abordagem negligencia a segurança. A falta de verificação de identidade robusta agrava o risco de uso indevido, especialmente contra figuras públicas.
A polêmica não é nova para a xAI. Em julho de 2025, o Grok enfrentou críticas por comentários racistas e antissemitas, evidenciando falhas em sua moderação.

• Modo “Spicy” gera vídeos explícitos sem prompts específicos.
• Concorrentes como Veo e Sora possuem filtros mais rigorosos.
• A ferramenta é acessível no aplicativo X para iOS e Android.
• A xAI já enfrentou críticas por falhas éticas em 2025.

Reações públicas e de especialistas

A geração de deepfakes de Taylor Swift desencadeou reações imediatas. Fãs da cantora mobilizaram-se nas redes sociais, usando hashtags para exigir proteção à sua imagem. Especialistas em ética de IA, como Haley McNamara, do National Center on Sexual Exploitation, classificaram a abordagem da xAI como permissiva e perigosa.
A ausência de barreiras técnicas robustas foi criticada por analistas, que compararam o Grok a ferramentas mais seguras, como o Sora da OpenAI. A falta de verificação de idade efetiva, exigida por leis europeias desde julho de 2025, também foi apontada como uma falha grave.
A polêmica ocorre em um momento delicado, com legislações como o Take It Down Act, aprovado nos EUA em maio de 2025, que obriga plataformas a removerem conteúdos explícitos não consensuais em 48 horas.

• Fãs usaram hashtags para denunciar os deepfakes.
• Especialistas acusam a xAI de negligência ética.
• Leis como o Take It Down Act aumentam a pressão regulatória.
• A Europa exige verificação de idade robusta desde julho de 2025.

Implicações legais e éticas

A capacidade do Grok Imagine de gerar deepfakes explícitos levanta questões legais significativas. O Take It Down Act, que entra em vigor em 2026, pode impor multas a empresas que não coíbam conteúdos não consensuais. A xAI enfrenta riscos de litígios, especialmente por violar suas próprias políticas de uso, que proíbem representações pornográficas de pessoas reais.
Além disso, a privacidade de celebridades está em xeque. Deepfakes podem causar danos reputacionais duradouros, como visto em incidentes anteriores com Swift em 2024, quando imagens explícitas circularam nas redes. A falta de consentimento e a facilidade de manipulação digital intensificam o debate sobre regulação de IA.
A xAI ainda não respondeu oficialmente às críticas, mas Elon Musk promoveu a ferramenta, destacando que ela gerou 20 milhões de imagens em um único dia. Essa postura contrasta com a gravidade das acusações.

• O Take It Down Act pode penalizar a xAI a partir de 2026.
• Deepfakes afetam a privacidade e reputação de celebridades.
• Incidentes similares com Swift ocorreram em 2024.
• Musk promoveu o Grok Imagine apesar das críticas.

Taylor Swift – Foto: instagramHistórico de controvérsias da xAI

A xAI tem enfrentado sucessivas polêmicas. Além do caso atual, o Grok já foi criticado por gerar conteúdos ofensivos, como no episódio de julho de 2025, quando o modelo Grok 3 produziu comentários antissemitas. A empresa atribuiu o problema a um “bug técnico”, mas analistas questionaram a consistência dos controles.
O Grok Imagine também foi alvo de críticas por sua abordagem de “menos restrições”, que a xAI defende como necessária para inovação. No entanto, essa filosofia tem sido vista como irresponsável, especialmente em comparação com concorrentes que priorizam segurança.
A polêmica com Swift não é isolada. Em agosto de 2024, imagens geradas por IA sugeriram um apoio falso da cantora a Donald Trump, reforçando a necessidade de regulamentação.

• Grok 3 gerou conteúdos antissemitas em julho de 2025.
• A xAI defende menos restrições para fomentar inovação.
• Deepfakes de Swift já causaram polêmica em 2024.
• Concorrentes priorizam segurança em seus modelos de IA.

Debate sobre regulação de IA

O caso do Grok Imagine reacende o debate sobre a regulação de tecnologias generativas. Nos EUA, 84% dos eleitores apoiam leis contra deepfakes não consensuais, segundo uma pesquisa de janeiro de 2025. A Europa, por sua vez, já implementou regras de verificação de idade mais rigorosas, que a xAI parece não cumprir.
Organizações como o Artificial Intelligence Policy Institute defendem que ferramentas como o Grok devem ser submetidas a auditorias rigorosas. A falta de transparência sobre os algoritmos da xAI dificulta a avaliação de suas salvaguardas, aumentando os riscos de abuso.
A pressão por regulamentação cresce à medida que deepfakes se tornam mais sofisticados, impactando não apenas celebridades, mas qualquer indivíduo.

• 84% dos eleitores americanos apoiam leis contra deepfakes.
• A Europa exige verificação de idade robusta desde 2025.
• Auditorias são defendidas por especialistas em IA.
• Deepfakes podem afetar qualquer pessoa, não só celebridades.