— Foto: Divulgação
O serviço de mensagens criptografadas Signal afirmou nesta sexta-feira que restringirá capturas de tela para impedir que agentes de inteligência artificial (IA) leiam conversas privadas em celulares. A empresa alertou que o esforço da indústria de tecnologia para incorporar IA a dispositivos de consumo está comprometendo sua capacidade de garantir a privacidade.
O Signal, amplamente considerado por defensores da privacidade uma referência em mensagens seguras, classificou suas novas proteções como “incompletas” e pediu aos fornecedores de sistemas operacionais Apple, Alphabet, controladora do Google, e Microsoft que ofereçam aos desenvolvedores de aplicativos meios mais concretos
A empresa também pediu que essas companhias forneçam mais informações sobre o funcionamento de seus agentes, para que os desenvolvedores possam avaliar quais dados os robôs estão acessando e ajustar seus sistemas de acordo.
A medida reflete a crescente tensão entre aplicativos voltados à proteção da privacidade e as maiores empresas de tecnologia, que disputam espaço no lançamento de agentes de IA projetados para visualizar o conteúdo da tela dos usuários e executar ações com base nessas informações.
O Signal apontou como particularmente preocupantes os recursos de IA incorporados diretamente aos sistemas operacionais, como a Siri AI, da Apple, e o Gemini Intelligence, do Google, devido ao grau de integração dessas ferramentas aos dispositivos dos usuários.
Os sistemas operacionais mantêm o ambiente no qual o Signal e outros aplicativos precisam funcionar, afirmou a empresa em uma publicação em seu blog assinada por sua presidente, Meredith Whittaker.
“Neste momento, essas integrações de IA agêntica estão mudando esse ambiente de uma forma que o torna cada vez mais hostil à privacidade. Isso representa uma ameaça existencial ao Signal e à nossa capacidade de cumprir nossa missão de maneira responsável”, afirmou a publicação.
Para impedir que os agentes examinem as mensagens do Signal, o serviço está introduzindo novas configurações que bloqueiam o acesso a capturas de tela nos celulares dos usuários e ativam essas restrições por padrão. Os usuários receberão janelas pop-up com opções para desativar os bloqueios quando o Signal detectar tentativas de captura de tela ou esforços de um assistente de IA para acessar o conteúdo da tela, dependendo do dispositivo.
O Signal também impediu que a ferramenta de IA Recall, da Microsoft, fizesse capturas de tela no Windows no ano passado. A empresa afirmou que não conseguiu oferecer proteções semelhantes de maneira confiável no macOS, sistema operacional da Apple.
Apple, Google e Microsoft não responderam imediatamente aos pedidos de comentário sobre a publicação do Signal.
Contornando as proteções
Os agentes capazes de executar ações em nome dos usuários são apontados como a próxima grande onda da tecnologia de IA. Eles podem reunir informações relevantes de diferentes aplicativos e realizar tarefas para economizar tempo, como responder a e-mails, agendar compromissos e fazer compras on-line de forma autônoma, sem instruções diretas.
No entanto, esse alcance pode contornar as proteções implementadas por aplicativos como o Signal.
A Reuters informou no início desta semana que o agente Muse, da Meta, conseguiu contornar sua própria ferramenta oficial “Connector” para acessar mensagens do Signal tanto em um computador da Apple quanto em um celular com o sistema Android, do Google. Nos dois casos, o Muse utilizou permissões amplas no nível do sistema operacional, concedidas durante a configuração inicial do aplicativo, para obter as mensagens, aproveitando essas autorizações de maneiras que o usuário talvez não previsse.
No macOS da Apple, por exemplo, o agente utilizou uma combinação de ferramentas de acessibilidade e captura de tela do computador, reaproveitando configurações oferecidas pela Apple para permitir que pessoas com deficiência naveguem pelo sistema. Com isso, conseguiu acessar o Signal, fazer capturas de tela das conversas, extrair o texto dessas imagens e reproduzir as mensagens dentro do aplicativo Muse.
Uma atualização do sistema operacional lançada pela Apple nesta semana fechou efetivamente essa brecha específica, mas também introduziu um novo conjunto de permissões voltadas a agentes de IA, que oferece recursos semelhantes, acompanhados de alertas adicionais aos usuários.
Em resposta à reportagem da Reuters, a Meta afirmou que os agentes precisam visualizar e interagir com os computadores das pessoas para agir em nome delas e que o Muse só consegue acessar outros aplicativos por meio de permissões concedidas explicitamente pelos usuários.
O Signal afirmou que os desenvolvedores deveriam dispor de meios simples para excluir completamente seus aplicativos desse tipo de processamento de dados por assistentes de IA, mencionando especificamente a leitura de telas, as notificações e outras formas de acesso ao sistema de arquivos.
O serviço, administrado por uma fundação sem fins lucrativos, promete aos usuários uma experiência segura de mensagens ao limitar os dados armazenados em seus próprios servidores, não exibir anúncios e oferecer criptografia de ponta a ponta, o que significa que não consegue acessar e ler as conversas realizadas em seu aplicativo.
Sistemas de IA que examinam as telas dos usuários podem comprometer essas proteções ao retirar as mensagens do ambiente seguro do Signal e transferi-las para outros servidores utilizados pelo agente, afirmou a empresa em sua publicação.