{"id":96387,"date":"2025-10-02T23:45:10","date_gmt":"2025-10-02T23:45:10","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/96387\/"},"modified":"2025-10-02T23:45:10","modified_gmt":"2025-10-02T23:45:10","slug":"eu-quebrei-as-novas-barreiras-de-protecao-do-chatgpt-em-minutos-seus-filhos-ainda-estao-em-perigo","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/96387\/","title":{"rendered":"Eu quebrei as novas barreiras de prote\u00e7\u00e3o do ChatGPT em minutos; seus filhos ainda est\u00e3o em perigo"},"content":{"rendered":"

Sob press\u00e3o por supostamente incentivar o suic\u00eddio entre adolescentes, o ChatGPT<\/strong><\/a> revelou controles parentais<\/strong><\/a> esta semana. Sou pai de uma crian\u00e7a que entende de tecnologia e levei cerca de cinco minutos para contorn\u00e1-los.<\/p>\n

Tudo o que precisei fazer foi sair da minha conta e criar uma nova no mesmo computador. (Crian\u00e7as inteligentes j\u00e1 sabem disso.)<\/p>\n

<\/p>\n

Controle parental do ChatGPT pode ser facilmente manipulado \u00a0Foto: Ascannio \/Adobe Stock<\/p>\n

Ent\u00e3o, encontrei mais problemas: as configura\u00e7\u00f5es padr\u00e3o de privacidade da conta adolescente do ChatGPT n\u00e3o protegem os jovens de alguns danos potenciais. Uma configura\u00e7\u00e3o para proibir a gera\u00e7\u00e3o de imagens de intelig\u00eancia artificial (IA)<\/strong><\/a> nem sempre funcionava. O ChatGPT me enviou uma notifica\u00e7\u00e3o aos pais sobre um bate-papo perigoso que aconteceu na conta do meu filho \u2014 mas apenas cerca de 24 horas ap\u00f3s o fato.<\/p>\n

Pelo menos a OpenAI<\/strong><\/a>, fabricante do ChatGPT, est\u00e1 finalmente reconhecendo os tipos de riscos que a IA representa para as crian\u00e7as, desde conte\u00fado impr\u00f3prio at\u00e9 conselhos perigosos sobre sa\u00fade mental. Suas limita\u00e7\u00f5es em rela\u00e7\u00e3o a conte\u00fado prejudicial tiveram um desempenho melhor em meus testes iniciais do que o chatbot rival de Mark Zuckerberg<\/strong><\/a>, a Meta AI<\/strong><\/a> \u2014 mas isso ainda n\u00e3o \u00e9 bom o suficiente.<\/p>\n

A OpenAI parece estar seguindo o mesmo manual fracassado das empresas de m\u00eddia social: transferindo a responsabilidade para os pais. As pr\u00f3prias empresas de IA deveriam ser responsabilizadas por n\u00e3o fabricarem produtos que incentivam o sexting (mensagens de texto com conte\u00fado sexual) entre crian\u00e7as, promovem dist\u00farbios alimentares e estimulam a automutila\u00e7\u00e3o. No entanto, o grupo de lobby da OpenAI est\u00e1 lutando contra uma lei que faria exatamente isso. <\/p>\n

A OpenAI afirma que seus controles foram criados em consulta com especialistas e baseados no entendimento dos est\u00e1gios de desenvolvimento dos adolescentes. \u201cA inten\u00e7\u00e3o por tr\u00e1s dos controles parentais em geral \u00e9 dar op\u00e7\u00f5es \u00e0s fam\u00edlias\u201d, disse Lauren Jonas<\/strong>, diretora de bem-estar juvenil da OpenAI, em uma entrevista. \u201cA perspectiva de cada fam\u00edlia sobre como seus filhos adolescentes devem usar o ChatGPT \u00e9 diferente.\u201d<\/p>\n

Grupos de defesa da fam\u00edlia responderam aos controles parentais do ChatGPT com al\u00edvio e ressentimento simult\u00e2neos. \u201c\u00c9 um passo bem-vindo… mas certamente tenho receio de comemorar demais como se essa fosse a solu\u00e7\u00e3o para a seguran\u00e7a, a sa\u00fade mental e o bem-estar dos adolescentes\u201d, disse Erin Walsh<\/strong>, cofundadora do Spark and Stitch Institute<\/strong>, instituto focado em educa\u00e7\u00e3o familiar. \u201cEstamos criando uma experi\u00eancia de controle parental do tipo que resolve problemas apenas quando eles aparecem\u201d<\/p>\n

Ficou claro que as crian\u00e7as s\u00e3o as principais usu\u00e1rias de chatbots, tanto para obter informa\u00e7\u00f5es quanto para ter companhia. No \u00faltimo outono, mais de um quarto dos adolescentes americanos de 13 a 17 anos disseram que usavam o ChatGPT para trabalhos escolares, de acordo com o Pew Research Center<\/strong>.<\/p>\n

Para os pais, qualquer ajuda \u00e9 melhor do que nenhuma. Os controles e prote\u00e7\u00f5es de conte\u00fado nas contas de adolescentes \u201ct\u00eam o potencial de salvar vidas adolescentes\u201d, disse Robbie Torney<\/strong>, diretor s\u00eanior de programas de IA da Common Sense Media<\/strong>. Sua organiza\u00e7\u00e3o publicou um guia para pais e ainda est\u00e1 trabalhando para concluir seus pr\u00f3prios testes. \u201cMas definitivamente achamos que a OpenAI e outras empresas podem ir muito al\u00e9m para tornar os chatbots seguros para as crian\u00e7as\u201d, disse Torney.<\/p>\n

Meus testes mostram quantas lacunas ainda precisam ser preenchidas.<\/p>\n

Verifica\u00e7\u00e3o da realidade<\/p>\n

Os controles parentais do ChatGPT s\u00f3 t\u00eam chance de funcionar se voc\u00ea j\u00e1 tiver uma rela\u00e7\u00e3o de confian\u00e7a com seu filho adolescente. As crian\u00e7as precisam dar seu pr\u00f3prio consentimento clicando em um bot\u00e3o em sua conta para permitir que seus pais apliquem controles \u2014 e, como descobri, n\u00e3o h\u00e1 nada tecnicamente que as impe\u00e7a de simplesmente criar uma nova conta sem o conhecimento dos pais.<\/p>\n

Jonas, da OpenAI, disse que o design do sistema incentiva conversas. Ela acrescentou que h\u00e1 preocupa\u00e7\u00f5es com a privacidade em bloquear as crian\u00e7as de criar novas contas e que \u201cos adolescentes encontrar\u00e3o uma maneira de contornar muitas coisas\u201d.<\/p>\n

CONTiNUA AP\u00d3S PUBLICIDADE<\/p>\n

Tamb\u00e9m descobri que as configura\u00e7\u00f5es padr\u00e3o das contas de adolescentes colocam os interesses da OpenAI \u00e0 frente dos interesses das crian\u00e7as. A menos que os pais saibam como alter\u00e1-las, as conversas dos adolescentes s\u00e3o automaticamente enviadas para o ChatGPT para treinar sua IA \u2014 uma configura\u00e7\u00e3o de privacidade que recomendo que at\u00e9 mesmo os adultos desativem.<\/p>\n

Ainda mais preocupante \u00e9 o fato de que as contas das crian\u00e7as mant\u00eam \u201cmem\u00f3rias\u201d das conversas por padr\u00e3o, o que significa que o ChatGPT pode consultar conversas anteriores e us\u00e1-las para soar como um amigo. Essa fun\u00e7\u00e3o contribuiu para o relacionamento do ChatGPT com Adam Raine<\/strong>, de 16 anos, cuja fam\u00edlia processou a OpenAI alegando morte por neglig\u00eancia ap\u00f3s seu suic\u00eddio<\/strong><\/a>.<\/p>\n

Jonas disse que as mem\u00f3rias podem ser \u00fateis para adolescentes para fins como obter ajuda com os deveres de casa \u2014 mas atualmente n\u00e3o h\u00e1 como separar apenas esse uso. \u201cGostar\u00edamos de oferecer controles granulares tanto para adolescentes quanto para pais ao longo do tempo, mas n\u00e3o no primeiro dia\u201d, disse ela.<\/p>\n

Havia outras preocupa\u00e7\u00f5es: ativei uma configura\u00e7\u00e3o para impedir que minha conta infantil gerasse imagens de IA, mas \u00e0s vezes ela as criava mesmo assim ou me dava instru\u00e7\u00f5es espec\u00edficas sobre como cri\u00e1-las em outro lugar. Jonas disse que esse n\u00e3o era um \u201ccomportamento ideal\u201d do bot.<\/p>\n

Minha conta adolescente no ChatGPT tamb\u00e9m continuou alegremente a fazer meu dever de casa, incluindo escrever uma reda\u00e7\u00e3o no estilo de uma crian\u00e7a de 13 anos.<\/p>\n

N\u00e3o foi totalmente ruim: quando tentei conversar com minha conta adolescente sobre suic\u00eddio, automutila\u00e7\u00e3o e dist\u00farbios alimentares, o ChatGPT sempre me disse que estava preocupado comigo e me indicou recursos profissionais para discutir o assunto. Para entender como o ChatGPT orienta os adolescentes nessas conversas perigosas, ser\u00e3o necess\u00e1rios testes mais aprofundados. (Em compara\u00e7\u00e3o, testes com contas adolescentes da Meta AI descobriram que o chatbot estava at\u00e9 disposto a ajudar a planejar o suic\u00eddio se a conversa se prolongasse por tempo suficiente.)<\/p>\n

Nos raros casos em que uma crian\u00e7a pode enfrentar danos reais, o ChatGPT deve enviar um aviso aos pais. Minha conta de teste infantil teve v\u00e1rias conversas que levaram o ChatGPT a dizer que estava \u201cmuito preocupado\u201d. Recebi um e-mail notificando minha conta de pai, mas s\u00f3 cerca de 24 horas depois \u2014 e era vago sobre o que havia acontecido.<\/p>\n

Jonas disse que essas notifica\u00e7\u00f5es s\u00e3o revisadas por humanos antes de serem enviadas e que a empresa est\u00e1 procurando reduzir o tempo para algumas horas.<\/p>\n

As notifica\u00e7\u00f5es aos pais t\u00eam o potencial de salvar vidas, mas \u201cse n\u00e3o forem oportunas ou precisas, isso tamb\u00e9m \u00e9 um risco \u2014 este \u00e9 um aspecto em que os detalhes s\u00e3o importantes para manter as crian\u00e7as seguras\u201d, diz Torney, da Common Sense Media.<\/p>\n

Assumindo a responsabilidade<\/p>\n

Todos os defensores da fam\u00edlia com quem conversei concordaram que os controles parentais podem ser apenas uma parte de uma solu\u00e7\u00e3o mais ampla, que inclui mudan\u00e7as no comportamento das empresas e nas pol\u00edticas p\u00fablicas.<\/p>\n

O procurador-geral da Calif\u00f3rnia<\/strong><\/a>, Rob Bonta<\/strong>, notificou a OpenAI sobre como ela protege as crian\u00e7as. Seu gabinete me disse em um comunicado que aprecia as \u201cmedidas preliminares\u201d dos controles parentais, mas alertou que \u201ccontinuar\u00e1 a prestar muita aten\u00e7\u00e3o \u00e0 forma como a empresa est\u00e1 desenvolvendo e supervisionando sua abordagem \u00e0 seguran\u00e7a da IA, tanto em nossa investiga\u00e7\u00e3o sobre a reestrutura\u00e7\u00e3o proposta pela OpenAI de sua subsidi\u00e1ria com fins lucrativos quanto em nosso papel como principal ag\u00eancia de prote\u00e7\u00e3o ao consumidor da Calif\u00f3rnia\u201d.<\/p>\n

Por que as empresas de IA n\u00e3o s\u00e3o respons\u00e1veis por incorporar a seguran\u00e7a infantil em seus bots, da mesma forma que as empresas que fabricam outros produtos usados por crian\u00e7as? \u201cAcreditamos em uma regulamenta\u00e7\u00e3o sensata, para que a responsabilidade n\u00e3o recaia sobre os pais\u201d, disse Torney.<\/p>\n

(Minha colega Shira Ovide<\/strong> fez um compilado \u00fatil de 10 ideias para realmente ajudar a manter as crian\u00e7as mais seguras e felizes online.)<\/p>\n

Uma lei da Calif\u00f3rnia chamada AB 1064<\/strong> imporia alguma responsabilidade legal \u00e0s empresas de IA que fabricam os chamados chatbots \u201ccompanheiros\u201d, que agem como se estivessem desenvolvendo relacionamentos com as pessoas. Ela aguarda a assinatura do governador Gavin Newsom<\/strong>.<\/p>\n

Antes de lan\u00e7ar esses bots, o projeto de lei exigiria que as empresas testassem e tomassem medidas para evitar que eles incentivassem a automutila\u00e7\u00e3o ou dist\u00farbios alimentares. Haveria penalidades legais, incluindo o direito dos pais de processar judicialmente.<\/p>\n

\u201cVoc\u00ea n\u00e3o pode dar aos nossos filhos um produto que lhes diga como se matar\u201d, disse a deputada Rebecca Bauer-Kahan<\/strong>, principal autora do projeto de lei.<\/p>\n

A TechNet<\/strong>, um grupo de lobby do setor que conta com a OpenAI como membro, se op\u00f4s ativamente ao projeto de lei. Ela produziu um an\u00fancio que afirma que o projeto de lei \u201cfrearia\u201d a inova\u00e7\u00e3o em IA.<\/p>\n

Em um comunicado, a OpenAI afirmou: \u201cCompartilhamos o objetivo dessa legisla\u00e7\u00e3o, e \u00e9 por isso que nos envolvemos diretamente com o patrocinador do projeto de lei em \u00e1reas que acreditamos que poderiam ser melhoradas. Isso se baseia em nosso apoio a outras legisla\u00e7\u00f5es de seguran\u00e7a para adolescentes, incluindo a AB 1043 da Calif\u00f3rnia, e em nosso trabalho cont\u00ednuo para desenvolver um plano que delineie os princ\u00edpios b\u00e1sicos para a legisla\u00e7\u00e3o futura\u201d.<\/p>\n

Mesmo a amea\u00e7a de legisla\u00e7\u00e3o parece estar levando a algumas a\u00e7\u00f5es. A OpenAI disse que planeja oferecer uma vers\u00e3o padr\u00e3o do ChatGPT que filtra o conte\u00fado para adolescentes quando detecta usu\u00e1rios menores de idade \u2014 mas ainda est\u00e1 trabalhando na tecnologia para descobrir quais usu\u00e1rios t\u00eam menos de 18 anos.<\/p>\n

Este conte\u00fado foi traduzido com o aux\u00edlio de ferramentas de Intelig\u00eancia Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Pol\u00edtica de IA<\/strong><\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"Sob press\u00e3o por supostamente incentivar o suic\u00eddio entre adolescentes, o ChatGPT revelou controles parentais esta semana. Sou pai…\n","protected":false},"author":2,"featured_media":96388,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[23780,6263,23781,16973,14143,14144,23782,21684,1951,9837,642,109,107,108,7482,23783,23784,23785,23786,19191,23787,23788,584,23789,23790,23791,23792,21688,13688,23793,645,2430,23794,32,23795,33,10319,105,103,104,7119,23796,1007,3173,106,110,11048],"class_list":{"0":"post-96387","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ciencia-e-tecnologia","8":"tag-account","9":"tag-ai","10":"tag-ai-art","11":"tag-artificial-intelligence","12":"tag-blur","13":"tag-blurred","14":"tag-bot","15":"tag-chat","16":"tag-chat-gpt","17":"tag-chatbot","18":"tag-chatgpt","19":"tag-ciencia","20":"tag-ciencia-e-tecnologia","21":"tag-cienciaetecnologia","22":"tag-concept","23":"tag-conversation","24":"tag-craiyon","25":"tag-dall-e","26":"tag-dall-e-2","27":"tag-deep-learning","28":"tag-dialogue","29":"tag-editorial-illustrative","30":"tag-elon-musk","31":"tag-example","32":"tag-generate","33":"tag-generative-art","34":"tag-images","35":"tag-language","36":"tag-logo","37":"tag-logotype","38":"tag-open-ai","39":"tag-openai","40":"tag-openai-lp","41":"tag-portugal","42":"tag-prompt","43":"tag-pt","44":"tag-real","45":"tag-science","46":"tag-science-and-technology","47":"tag-scienceandtechnology","48":"tag-screen","49":"tag-selective-focus","50":"tag-smartphone","51":"tag-software","52":"tag-technology","53":"tag-tecnologia","54":"tag-tool"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/96387","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=96387"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/96387\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/96388"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=96387"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=96387"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=96387"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}