Uma investigação do Tech Transparency Project revela que os sistemas de pesquisa e publicidade da App Store e do Google Play recomendam aplicações que criam imagens sexuais, sem consentimento de pessoas reais, através de inteligência artificial.
A Apple e a Google não se limitam a albergar aplicações de nudificação nas suas lojas de aplicações, sendo os seus próprios sistemas de pesquisa e de publicidade que estão a promovê-las ativamente. Esta foi a conclusão obtida segundo uma investigação publicada esta semana pelo Tech Transparency Project, uma organização de fiscalização de grandes empresas tecnológicas ligada à Campaign for Accountability.
Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt
Pesquisas por termos como “nudify”, “undress” ou “deepnude” tanto na App Store da Apple como no Google Play devolvem múltiplas aplicações capazes de remover digitalmente as roupas de mulheres em fotografias. Estas ferramentas permitem transformar imagens de qualquer pessoa, como de uma colega, uma celebridade ou uma aluna, em imagens de nudez realistas ou em vídeos de cariz pornográfico gerados por inteligência artificial (IA).
Os números apresentados são bastante expressivos. Até ao momento, as aplicações de nudificação identificadas pelos investigadores acumulam 483 milhões de downloads, e geraram mais de 122 milhões de dólares em receitas. Estes dados foram recolhidos pela empresa de análise AppMagic, que concluiu que das aplicações investigadas, 31 são classificadas como adequadas para menores de idade. Este número é particularmente preocupante face ao número crescente de escândalos de deepfakes sexuais em contexto escolar.
Um relatório da Internet Watch Foundation destaca o aumento de 400% de vídeos sobre abusos de crianças criados com inteligência…
O problema vai além da simples disponibilidade das aplicações. Tanto a Apple como a Google veiculam anúncios pagos de aplicações de nudificação em alguns dos resultados de pesquisa. A situação é tão grave que as próprias lojas sugerem termos de pesquisa adicionais através da função de “autocompletar”, que conduzem a ainda mais aplicações deste tipo. Isto significa que as duas empresas não são espectadoras passivas do fenómeno, mas participantes ativas na sua disseminação. São, inclusive, beneficiárias financeiras, tanto através da publicidade como da percentagem que retêm das subscrições pagas.
Os testes realizados pelo Tech Transparency Project demonstraram que cerca de 40% das aplicações devolvidas pelas pesquisas, tanto na App Store como no Google Play, eram capazes de gerar imagens de nudez a partir de fotografias de mulheres vestidas.
Algumas aplicações iam mais longe, permitindo a criação de chatbots sexualizados com o rosto de qualquer pessoa, incluindo figuras que aparentavam ser menores de idade.
A Apple recusou comentar e nenhuma das empresas respondeu a questões sobre o motivo pelo qual as suas funções de pesquisa apontam para aplicações de nudificação. Também ficou por responder sobre como é que essas aplicações passam pelo processo de aprovação ou sobre o que fazem com as receitas geradas por aplicações que violam as suas próprias políticas. Após ser confrontada com os resultados pela organização, a Apple removeu 15 aplicações, tendo a Google removido apenas sete.
Tanto a App Store como o Google Play têm políticas explícitas que proíbem este tipo de conteúdo. A Apple veda aplicações com material sexual explícito ou pornográfico, e a Google proíbe expressamente aplicações que “degradem ou objetifiquem pessoas, como aplicações que afirmem despir pessoas ou ver através das roupas”. As remoções efetuadas após a publicação da investigação revelam que as políticas anunciadas existem efetivamente, mas que o problema está na sua aplicação.
Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.