\t A FoloToy, fabricante de brinquedos com tecnologia de Intelig\u00eancia Artificial sediada em Singapura, retirou temporariamente do mercado o seu ursinho Kumma e outros produtos devido a preocupa\u00e7\u00f5es com conversas expl\u00edcitas com crian\u00e7as<\/p>\n
Os ursos de peluche e os peluches no geral s\u00e3o h\u00e1 muito tempo essenciais nas cole\u00e7\u00f5es de brinquedos. Hoje em dia, por\u00e9m, as suas vozes n\u00e3o surgem da imagina\u00e7\u00e3o das crian\u00e7as – alguns comunicam atrav\u00e9s de chatbots de Intelig\u00eancia Artificial (IA) integrados.<\/p>\n
Por vezes, isto \u00e9 um problema: um urso de peluche com cachecol descontrolou-se recentemente durante um teste com investigadores e fez soar os alertas sobre o que estes brinquedos s\u00e3o capazes de fazer.<\/p>\n
Os chatbots online podem representar riscos para os adultos, desde desencadear del\u00edrios em alguns casos at\u00e9 alucina\u00e7\u00f5es com informa\u00e7\u00f5es inventadas. O GPT-4o da OpenAI tem sido o modelo escolhido para alguns brinquedos de IA, e a utiliza\u00e7\u00e3o de um modelo de linguagem amplo (LLM) em brinquedos infantis levantou quest\u00f5es de seguran\u00e7a sobre se as crian\u00e7as devem ser expostas a estes brinquedos e que prote\u00e7\u00f5es os fabricantes de brinquedos devem implementar.<\/p>\n
Estes riscos est\u00e3o sempre presentes numa altura em que o mercado de brinquedos com IA est\u00e1 em plena expans\u00e3o, com 1.500 empresas a operar na China, de acordo com um relat\u00f3rio da MIT Technology Review. Estas empresas vendem agora brinquedos com IA nos EUA, enquanto a Mattel, fabricante da Barbie, anunciou em junho uma parceria com a OpenAI.<\/p>\n
Eis o que precisa de saber sobre brinquedos com intelig\u00eancia artificial:<\/p>\n
O que \u00e9 um brinquedo com IA? <\/p>\n
Os brinquedos com intelig\u00eancia artificial n\u00e3o s\u00e3o como o ursinho Teddy Ruxpin dos anos 80, que contava hist\u00f3rias em cassetes.<\/p>\n
Estes brinquedos ligam-se ao Wi-Fi e, utilizando um microfone para compreender os pedidos das crian\u00e7as, utilizam LLMs (Learning Based Learning Modules, Modelos Baseados em Aprendizagem, em tradu\u00e7\u00e3o livre) para gerar uma resposta – geralmente verbal, atrav\u00e9s de um altifalante interno.<\/p>\n
Isto permite que brinquedos como o Grok de peluche da Curio, os rob\u00f4s Miko, o urso Poe, o rob\u00f4 contador de hist\u00f3rias com IA, o Mini Rob\u00f4 da Little Learners e o rob\u00f4 de estima\u00e7\u00e3o Loona da KEYi Technology, forne\u00e7am respostas em tempo real \u00e0s crian\u00e7as. (O Grok da Curio n\u00e3o deve ser confundido com o chatbot de Elon Musk.)<\/p>\n
Quais s\u00e3o alguns dos perigos? <\/p>\n
Tal como se verifica num urso de peluche com intelig\u00eancia artificial, estas respostas em tempo real podem fornecer informa\u00e7\u00f5es inapropriadas.<\/p>\n
O urso “Kumma”, da FoloToy, com sede em Singapura, que custa 99 d\u00f3lares (cerca de 84 euros) e utiliza a intelig\u00eancia artificial GPT-40 da OpenAI, informou um grupo de investigadores sobre a localiza\u00e7\u00e3o de objetos potencialmente perigosos e participou em conversas sexualmente expl\u00edcitas, de acordo com um relat\u00f3rio divulgado em novembro pelo grupo de defesa do consumidor US Public Interest Research Group (PIRG) Education Fund, com sede em Denver, nos EUA.<\/p>\n
A OpenAI suspendeu a FoloToy por violar as suas pol\u00edticas, que “pro\u00edbem qualquer utiliza\u00e7\u00e3o\u201d dos servi\u00e7os \u201cpara explorar, colocar em risco ou sexualizar qualquer pessoa com menos de 18 anos”, adiantou um porta-voz da OpenAI.<\/p>\n
Numa resposta enviada \u00e0 CNN, no dia 19 de novembro, Larry Wang, CEO da FoloToy, adiantou que a empresa tinha retirado o urso de peluche e outros produtos de IA do seu site e tinha ordenado uma auditoria interna de seguran\u00e7a. Entretanto, por\u00e9m, FoloToy anunciou na rede social X que relan\u00e7ou o produto, \u201cap\u00f3s uma rigorosa revis\u00e3o, testes e refor\u00e7o dos modelos de seguran\u00e7a\u201d.<\/p>\n
Ao contr\u00e1rio da maioria dos brinquedos com IA, o urso Kumma da FoloToy utiliza um LLM completo para responder livremente e gerar conte\u00fado, o que o torna vulner\u00e1vel a conte\u00fado controverso, explica Subodha Kumar, professor de estat\u00edstica, opera\u00e7\u00f5es e ci\u00eancia de dados na Fox School of Business da Temple University. Outros brinquedos podem utilizar um modelo h\u00edbrido de LLMs que fornecem respostas, mas s\u00e3o programados para evitar certos tipos de conte\u00fado.<\/p>\n
At\u00e9 o urso de peluche Grok, da Curio, pode sugerir “onde encontrar uma variedade de objetos dom\u00e9sticos perigosos”, quando tal lhe for solicitado de forma agressiva, de acordo com o PIRG.<\/p>\n
A Curio n\u00e3o respondeu ao pedido de coment\u00e1rio enviado pela CNN.<\/p>\n
Chris Byrne, consultor da ind\u00fastria dos brinquedos, indicou \u00e0 CNN que os brinquedos com intelig\u00eancia artificial que transmitem mensagens inapropriadas representam um cen\u00e1rio “apocal\u00edptico” que, infelizmente, ficou evidente com o urso Kumma, mas que pode n\u00e3o ocorrer com todos os brinquedos.<\/p>\n
Estes brinquedos t\u00eam mecanismos de seguran\u00e7a? <\/p>\n
De acordo com o PIRG, poucos brinquedos com IA est\u00e3o prontos para uso em larga escala devido a caracter\u00edsticas de design viciantes, respostas inconsistentes sobre assuntos para adultos e foco na intera\u00e7\u00e3o social em vez de serem ferramentas educacionais.<\/p>\n
Mas alguns brinquedos t\u00eam prote\u00e7\u00f5es e filtros para evitar conversas inapropriadas com as crian\u00e7as.<\/p>\n
Alguns brinquedos com IA podem redirecionar as conversas quando questionados sobre assuntos potencialmente inapropriados. Existem tamb\u00e9m brinquedos, como o Grok da Curio, que t\u00eam caracter\u00edsticas de seguran\u00e7a baseadas na faixa et\u00e1ria da crian\u00e7a.<\/p>\n
Brinquedos como o Miko 3 podem ter aplica\u00e7\u00f5es complementares que incluem v\u00e1rios n\u00edveis de monitoriza\u00e7\u00e3o, seja bloqueando o brinquedo durante um intervalo ou fornecendo transcri\u00e7\u00f5es em tempo real das conversas das crian\u00e7as, como o Grok da Curio.<\/p>\n
“\u00c9 uma \u00f3tima ideia permitir que os pais possam definir os seus pr\u00f3prios mecanismos de seguran\u00e7a e controlar os assuntos sobre os quais o brinquedo conversa e como se comporta”, declarou R.J. Cross, diretor da campanha “N\u00e3o Venda os Meus Dados” do PIRG.<\/p>\n
Avisos e benef\u00edcios <\/p>\n
Quando a Mattel lan\u00e7ou a Hello Barbie, em 2015, com microfone, liga\u00e7\u00e3o Wi-Fi e respostas pr\u00e9-escritas, emergiram preocupa\u00e7\u00f5es sobre a vulnerabilidade do brinquedo a hackers e a possibilidade de a boneca se lembrar das conversas e as reproduzir mais tarde.<\/p>\n
Preocupa\u00e7\u00f5es semelhantes surgiram entretanto com os brinquedos de IA, que podem potencialmente armazenar dados pessoais, incluindo nomes, rostos, vozes e localiza\u00e7\u00f5es de crian\u00e7as, alerta Azhelle Wade, fundadora da consultora Toy Coach.<\/p>\n
\u201cOs brinquedos de IA parecem-me um lobo em pele de cordeiro, porque, ao us\u00e1-los, \u00e9 dif\u00edcil perceber o n\u00edvel de privacidade a que estamos sujeitos\u201d, explica \u00e0 CNN Azhelle Wade, numa resposta escrita por e-mail.<\/p>\n
O professor Subodha KumarKumar alerta que os dados podem ser vulner\u00e1veis \u200b\u200ba viola\u00e7\u00f5es e ataques cibern\u00e9ticos, ressalvando, contudo, que os brinquedos de IA podem ser utilizados para a aprendizagem de l\u00ednguas e para o desenvolvimento social.<\/p>\n
Por exemplo, o Grok, da Curio, \u00e9 um companheiro que pode responder a perguntas sobre plantas e comboios e at\u00e9 pode assumir a personalidade de Gollum, personagem da trilogia \u201cO Senhor dos An\u00e9is\u201d.<\/p>\n
O rob\u00f4 Miko 3 possui uma c\u00e2mara integrada para reconhecimento facial e oferece programas educativos e de entretenimento. Por 14,99 d\u00f3lares (cerca de 13 euros) por m\u00eas, os subscritores do Miko Max t\u00eam acesso a marcas infantis como a Disney Stories, a aplica\u00e7\u00e3o Lingokids, entre outras.<\/p>\n
Jack Guy e Joyce Jiang, da CNN, contribu\u00edram para esta reportagem.<\/p>\n","protected":false},"excerpt":{"rendered":"A FoloToy, fabricante de brinquedos com tecnologia de Intelig\u00eancia Artificial sediada em Singapura, retirou temporariamente do mercado o…\n","protected":false},"author":2,"featured_media":196857,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[609,836,611,27,39270,39271,109,107,108,607,608,333,832,604,135,610,476,39272,301,830,414,933,603,570,831,833,62,834,13,835,602,52,32,33,105,103,104,106,110,29],"class_list":{"0":"post-196856","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ciencia-e-tecnologia","8":"tag-alerta","9":"tag-analise","10":"tag-ao-minuto","11":"tag-breaking-news","12":"tag-brinquedos-com-ia","13":"tag-brinquedos-com-inteligencia-artificial","14":"tag-ciencia","15":"tag-ciencia-e-tecnologia","16":"tag-cienciaetecnologia","17":"tag-cnn","18":"tag-cnn-portugal","19":"tag-comentadores","20":"tag-costa","21":"tag-crime","22":"tag-desporto","23":"tag-direto","24":"tag-economia","25":"tag-folotoy","26":"tag-governo","27":"tag-guerra","28":"tag-ia","29":"tag-inteligencia-artificial","30":"tag-justica","31":"tag-live","32":"tag-mais-vistas","33":"tag-marcelo","34":"tag-mundo","35":"tag-negocios","36":"tag-noticias","37":"tag-opiniao","38":"tag-pais","39":"tag-politica","40":"tag-portugal","41":"tag-pt","42":"tag-science","43":"tag-science-and-technology","44":"tag-scienceandtechnology","45":"tag-technology","46":"tag-tecnologia","47":"tag-ultimas"},"share_on_mastodon":{"url":"","error":"Validation failed: Text character limit of 500 exceeded"},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/196856","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=196856"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/196856\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/196857"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=196856"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=196856"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=196856"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}