A Apple e a Google estão a ser alvo de duras críticas por continuarem a alojar e a promover ativamente aplicações que permitem criar imagens de nudez falsas através de inteligência artificial. Segundo um novo relatório do Tech Transparency Project, estas ferramentas continuam disponíveis nas respetivas lojas oficiais, mesmo com as plataformas a possuírem políticas rigorosas que proíbem este tipo de conteúdo.
Lucros milionários com ferramentas perigosas
O estudo revela um cenário preocupante, onde pesquisas por termos relacionados com despir ou criar nudez devolvem aplicações que manipulam imagens de pessoas reais para criar vídeos e fotografias de cariz pornográfico. A situação ganha contornos mais graves porque muitas destas aplicações estão classificadas para todas as idades, o que significa que podem ser descarregadas de forma livre por crianças. As plataformas estão a ser apontadas como peças centrais na propagação destas ferramentas invasivas, chegando mesmo a apresentar publicidade a aplicações semelhantes diretamente nos resultados de pesquisa.
A investigação identificou dezoito aplicações deste género na loja do iOS e vinte na plataforma do sistema Android. Algumas destas soluções são promovidas abertamente com imagens de teor sexual, enquanto outras ocultam o seu verdadeiro propósito, mas permitem igualmente a criação de deepfakes. No total, estima-se que estas ferramentas já tenham gerado mais de 112 milhões de euros em receitas, acumulando cerca de 483 milhões de transferências. Katie Paul, diretora do projeto de transparência, sublinhou à Bloomberg que as empresas não só falham na revisão e aprovação destas plataformas, como acabam por lucrar e direcionar ativamente os utilizadores para as mesmas.
A resposta das tecnológicas e a pressão governamental
Tanto a fabricante do iPhone como a gigante das pesquisas possuem regras claras contra material pornográfico, existindo inclusive proibições específicas para software de manipulação de nudez. Em resposta às acusações, a empresa de Cupertino afirmou ter removido quinze das aplicações identificadas no relatório, enquanto a sua rival confirmou a suspensão de várias opções nas suas listagens. Um dos casos destacados na investigação, o Video Face Swap AI: DeepFace, promovia-se com trocas de rostos de atrizes para corpos seminus de outras pessoas, mantendo de forma inexplicável a classificação para todas as idades.
A proliferação descontrolada deste tipo de conteúdo tem forçado a intervenção das autoridades competentes a nível global. No Reino Unido, foi recentemente exigida uma proibição total de aplicações que criem imagens sexuais ou de nudez infantil. Em paralelo, os Estados Unidos e outras nações têm avançado com propostas de lei para banir deepfakes explícitos. O próprio procurador-geral da Califórnia enviou recentemente uma ordem de cessação à rede social X, de Elon Musk, devido aos deepfakes gerados pelo sistema Grok, demonstrando que o cerco regulatório se aperta cada vez mais contra a partilha e criação destes conteúdos nocivos.