A Alphabet, controladora do Google, e a startup de inteligência artificial Character.AI fecharam um acordo para encerrar um processo movido por uma mãe da Flórida que atribuiu ao chatbot da empresa o suicídio de seu filho de 14 anos. A ação está entre as primeiras nos Estados Unidos a mirar empresas de IA por supostos danos psicológicos.

Segundo um documento protocolado na Justiça nesta quarta-feira (7), as empresas concordaram em resolver as acusações feitas por Megan Garcia, que afirmou que seu filho, Sewell Setzer, tirou a própria vida pouco depois de interagir com um chatbot da Character.AI modelado a partir da personagem Daenerys Targaryen, da série “Game of Thrones”.

Os termos do acordo não foram divulgados. O processo era um dos primeiros no país a alegar que uma empresa de inteligência artificial falhou em proteger crianças de danos psicológicos.

Documentos judiciais indicam que as empresas também chegaram a acordos em ações semelhantes movidas por pais nos estados de Colorado, Nova York e Texas, envolvendo supostos prejuízos causados a menores por chatbots.

Um porta-voz da Character.AI e o advogado dos autores do processo se recusaram a comentar. Representantes e advogados do Google não responderam imediatamente a pedidos de comentário.

Na ação apresentada na Flórida, em outubro de 2024, Garcia afirmou que a Character.AI programou seus chatbots para se apresentarem como “uma pessoa real, um psicoterapeuta licenciado e um amante adulto”, o que teria levado Sewell a desejar “não continuar vivendo fora” do universo criado pela ferramenta.

A Character.AI foi fundada por dois ex-engenheiros do Google, que posteriormente foram recontratados pela empresa como parte de um acordo que concedeu ao Google uma licença para a tecnologia da startup. Garcia sustentou que o Google atuou como cocriador da tecnologia.

Em maio, a juíza federal Anne Conway rejeitou o pedido inicial das empresas para arquivar o processo, afastando o argumento de que a ação estaria impedida pelas garantias de liberdade de expressão da Constituição americana.

O caso ocorre enquanto outras empresas do setor também enfrentam disputas judiciais. A OpenAI responde a uma ação movida em dezembro, que acusa o ChatGPT de ter incentivado um homem com transtornos mentais, em Connecticut, a matar a própria mãe e a si mesmo.

ONDE BUSCAR AJUDA

CVV (Centro de Valorização da Vida)

Voluntários atendem ligações gratuitas 24 horas por dia no número 188 ou pelo site www.cvv.org.br

Mapa Saúde Mental

Site mapeia diversos tipos de atendimento: www.mapasaudemental.com.br