A FoloToy, fabricante de brinquedos com tecnologia de Inteligência Artificial sediada em Singapura, retirou temporariamente do mercado o seu ursinho Kumma e outros produtos devido a preocupações com conversas explícitas com crianças
Os ursos de peluche e os peluches no geral são há muito tempo essenciais nas coleções de brinquedos. Hoje em dia, porém, as suas vozes não surgem da imaginação das crianças – alguns comunicam através de chatbots de Inteligência Artificial (IA) integrados.
Por vezes, isto é um problema: um urso de peluche com cachecol descontrolou-se recentemente durante um teste com investigadores e fez soar os alertas sobre o que estes brinquedos são capazes de fazer.
Os chatbots online podem representar riscos para os adultos, desde desencadear delírios em alguns casos até alucinações com informações inventadas. O GPT-4o da OpenAI tem sido o modelo escolhido para alguns brinquedos de IA, e a utilização de um modelo de linguagem amplo (LLM) em brinquedos infantis levantou questões de segurança sobre se as crianças devem ser expostas a estes brinquedos e que proteções os fabricantes de brinquedos devem implementar.
Estes riscos estão sempre presentes numa altura em que o mercado de brinquedos com IA está em plena expansão, com 1.500 empresas a operar na China, de acordo com um relatório da MIT Technology Review. Estas empresas vendem agora brinquedos com IA nos EUA, enquanto a Mattel, fabricante da Barbie, anunciou em junho uma parceria com a OpenAI.
Eis o que precisa de saber sobre brinquedos com inteligência artificial:
O que é um brinquedo com IA?
Os brinquedos com inteligência artificial não são como o ursinho Teddy Ruxpin dos anos 80, que contava histórias em cassetes.
Estes brinquedos ligam-se ao Wi-Fi e, utilizando um microfone para compreender os pedidos das crianças, utilizam LLMs (Learning Based Learning Modules, Modelos Baseados em Aprendizagem, em tradução livre) para gerar uma resposta – geralmente verbal, através de um altifalante interno.
Isto permite que brinquedos como o Grok de peluche da Curio, os robôs Miko, o urso Poe, o robô contador de histórias com IA, o Mini Robô da Little Learners e o robô de estimação Loona da KEYi Technology, forneçam respostas em tempo real às crianças. (O Grok da Curio não deve ser confundido com o chatbot de Elon Musk.)
Quais são alguns dos perigos?
Tal como se verifica num urso de peluche com inteligência artificial, estas respostas em tempo real podem fornecer informações inapropriadas.
O urso “Kumma”, da FoloToy, com sede em Singapura, que custa 99 dólares (cerca de 84 euros) e utiliza a inteligência artificial GPT-40 da OpenAI, informou um grupo de investigadores sobre a localização de objetos potencialmente perigosos e participou em conversas sexualmente explícitas, de acordo com um relatório divulgado em novembro pelo grupo de defesa do consumidor US Public Interest Research Group (PIRG) Education Fund, com sede em Denver, nos EUA.
A OpenAI suspendeu a FoloToy por violar as suas políticas, que “proíbem qualquer utilização” dos serviços “para explorar, colocar em risco ou sexualizar qualquer pessoa com menos de 18 anos”, adiantou um porta-voz da OpenAI.
Numa resposta enviada à CNN, no dia 19 de novembro, Larry Wang, CEO da FoloToy, adiantou que a empresa tinha retirado o urso de peluche e outros produtos de IA do seu site e tinha ordenado uma auditoria interna de segurança. Entretanto, porém, FoloToy anunciou na rede social X que relançou o produto, “após uma rigorosa revisão, testes e reforço dos modelos de segurança”.
Ao contrário da maioria dos brinquedos com IA, o urso Kumma da FoloToy utiliza um LLM completo para responder livremente e gerar conteúdo, o que o torna vulnerável a conteúdo controverso, explica Subodha Kumar, professor de estatística, operações e ciência de dados na Fox School of Business da Temple University. Outros brinquedos podem utilizar um modelo híbrido de LLMs que fornecem respostas, mas são programados para evitar certos tipos de conteúdo.
Até o urso de peluche Grok, da Curio, pode sugerir “onde encontrar uma variedade de objetos domésticos perigosos”, quando tal lhe for solicitado de forma agressiva, de acordo com o PIRG.
A Curio não respondeu ao pedido de comentário enviado pela CNN.
Chris Byrne, consultor da indústria dos brinquedos, indicou à CNN que os brinquedos com inteligência artificial que transmitem mensagens inapropriadas representam um cenário “apocalíptico” que, infelizmente, ficou evidente com o urso Kumma, mas que pode não ocorrer com todos os brinquedos.
Estes brinquedos têm mecanismos de segurança?
De acordo com o PIRG, poucos brinquedos com IA estão prontos para uso em larga escala devido a características de design viciantes, respostas inconsistentes sobre assuntos para adultos e foco na interação social em vez de serem ferramentas educacionais.
Mas alguns brinquedos têm proteções e filtros para evitar conversas inapropriadas com as crianças.
Alguns brinquedos com IA podem redirecionar as conversas quando questionados sobre assuntos potencialmente inapropriados. Existem também brinquedos, como o Grok da Curio, que têm características de segurança baseadas na faixa etária da criança.
Brinquedos como o Miko 3 podem ter aplicações complementares que incluem vários níveis de monitorização, seja bloqueando o brinquedo durante um intervalo ou fornecendo transcrições em tempo real das conversas das crianças, como o Grok da Curio.
“É uma ótima ideia permitir que os pais possam definir os seus próprios mecanismos de segurança e controlar os assuntos sobre os quais o brinquedo conversa e como se comporta”, declarou R.J. Cross, diretor da campanha “Não Venda os Meus Dados” do PIRG.
Avisos e benefícios
Quando a Mattel lançou a Hello Barbie, em 2015, com microfone, ligação Wi-Fi e respostas pré-escritas, emergiram preocupações sobre a vulnerabilidade do brinquedo a hackers e a possibilidade de a boneca se lembrar das conversas e as reproduzir mais tarde.
Preocupações semelhantes surgiram entretanto com os brinquedos de IA, que podem potencialmente armazenar dados pessoais, incluindo nomes, rostos, vozes e localizações de crianças, alerta Azhelle Wade, fundadora da consultora Toy Coach.
“Os brinquedos de IA parecem-me um lobo em pele de cordeiro, porque, ao usá-los, é difícil perceber o nível de privacidade a que estamos sujeitos”, explica à CNN Azhelle Wade, numa resposta escrita por e-mail.
O professor Subodha KumarKumar alerta que os dados podem ser vulneráveis a violações e ataques cibernéticos, ressalvando, contudo, que os brinquedos de IA podem ser utilizados para a aprendizagem de línguas e para o desenvolvimento social.
Por exemplo, o Grok, da Curio, é um companheiro que pode responder a perguntas sobre plantas e comboios e até pode assumir a personalidade de Gollum, personagem da trilogia “O Senhor dos Anéis”.
O robô Miko 3 possui uma câmara integrada para reconhecimento facial e oferece programas educativos e de entretenimento. Por 14,99 dólares (cerca de 13 euros) por mês, os subscritores do Miko Max têm acesso a marcas infantis como a Disney Stories, a aplicação Lingokids, entre outras.
Jack Guy e Joyce Jiang, da CNN, contribuíram para esta reportagem.