A maioria das ferramentas de IA tem avisos de isenção de responsabilidade de que algumas das informações fornecidas podem não ser factuais. Mas isso não impediu as empresas de implementarem chatbots em mais aplicações e motores de busca, levando a muitos casos em que as ferramentas estão categoricamente incorretas. A prova mais recente vem da IA da Google e das suas AI Overviews. O perigo é real e pode trazer muitos problemas.
As AI Overviews da Pesquisa Google tornaram-se virais em diversas ocasiões devido a respostas factualmente incorretas. No entanto, os utilizadores estão agora a relatar outro problema. Os resumos de IA do Google fornecem números incorretos para o apoio ao cliente, direcionando as pessoas para números fraudulentos.
O empresário Alex Rivlin partilhou a sua experiência no Facebook, referindo que as visões gerais da IA da Google o direcionaram para um número de telefone fraudulento. Deparou-se com o golpe ao tentar entrar em contacto com o apoio ao cliente da Royal Caribbean para reservar um transfer para um cruzeiro. Ao ligar para o número fornecido pela IA, atendeu ao pedido. Mas, após partilhar os dados do seu cartão de crédito com a pessoa para quem ligou, o seu cartão foi cobrado por diferentes compras não autorizadas.
Rivlin não é a única pessoa que já enfrentou este problema. Numa publicação no Reddit, o utilizador Stimpy3901 disse que, ao pesquisar no Google “como corrigir um nome incorreto na Southwest”, o AI Overview apresentou um número fraudulento. O utilizador disse que, se ligar para o número, os burlões tentarão cobrar centenas de dólares para alterar o bilhete.
Outro utilizador do Reddit, ScotiaMinotia, deparou-se com o mesmo problema ao tentar contactar a British Airways. No entanto, referiram que, desde que reportaram o problema, há três meses, o resultado foi corrigido.
Mas estas respostas de IA não estão apenas a recomendar números fraudulentos. Em julho, o utilizador do Reddit PuddingResponsible afirmou que uma IA Overview estava a direcionar os clientes de uma empresa para contactar um dos seus clientes. Segundo o The Washington Post, um porta-voz da Google afirmou que a empresa está ciente do problema e tomou medidas contra certos números fraudulentos. A empresa também trabalha para melhorar os resultados.
No entanto, quem preferir ser cauteloso, deve certificar-se de que contacta apenas os números dos sites oficiais das empresas. A AI Overview já se enganou sobre factos simples, como o ano corrente, no passado. A ferramenta também já inventou significados para expressões idiomáticas falsas. É melhor verificar as informações por si mesmo para evitar fraudes.