Um investigador holandês descobriu milhares de conversas sensíveis de utilizadores do ChatGPT que estavam publicamente acessíveis na internet, apenas utilizando ferramentas de busca como o Google. A investigação foi conduzida por Henk Van Ess, jornalista e professor da Universidade do Arizona, especialista em OSINT (Open Source Intelligence).

Van Ess analisou dezenas de milhares de chats e encontrou informações altamente confidenciais, como resultados financeiros de empresas antes de divulgação oficial, planos de manipulação política, estratégias de ataques cibernéticos e até tentativas de contornar restrições de conteúdo sexualmente explícito envolvendo menores, revela o ‘El Confidencial’.

A origem do problema, segundo o investigador, não se trata de uma falha de segurança no ChatGPT, mas de um recurso de partilha mal projetado, que permitia que links de conversas fossem indexados pelos mecanismos de busca sem que os utilizadores percebessem. A OpenAI já desativou o recurso e iniciou um esforço para desindexar os conteúdos do Google.

Entre os casos destacados, Van Ess cita um advogado de uma multinacional italiana de energia que detalhou planos para deslocar comunidades indígenas na Amazónia para construção de uma unidade hidrelétrica de 15.000 MW.

O estudo também revela o uso banal da IA, com pessoas a pedirem à ferramenta que escrevesse poemas sobre gatos ou preparasse argumentos para discussões triviais, evidenciando um grande desperdício de recursos computacionais.