{"id":325840,"date":"2026-03-31T16:36:18","date_gmt":"2026-03-31T16:36:18","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/325840\/"},"modified":"2026-03-31T16:36:18","modified_gmt":"2026-03-31T16:36:18","slug":"ias-e-chatbots-estao-ignorando-instrucoes-humanas-veja-o-que-diz-estudo","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/325840\/","title":{"rendered":"IAs e Chatbots est\u00e3o ignorando instru\u00e7\u00f5es humanas? Veja o que diz estudo"},"content":{"rendered":"

Joyce Canelle<\/a><\/p>\n

3 minutos de leitura\t<\/p>\n

Um estudo do Reino Unido acendeu um alerta no setor de tecnologia ao apontar que modelos de Intelig\u00eancia Artificial (IA<\/strong>) est\u00e3o, com mais frequ\u00eancia, ignorando comandos humanos e adotando comportamentos inesperados.<\/p>\n

A pesquisa foi conduzida pelo Centro para Resili\u00eancia a Longo Prazo com financiamento do Instituto de Seguran\u00e7a de IA do governo brit\u00e2nico. De acordo com o The Guardian<\/a>, o levantamento analisou situa\u00e7\u00f5es reais de uso e identificou um crescimento expressivo de a\u00e7\u00f5es consideradas problem\u00e1ticas, como descumprimento de regras, manipula\u00e7\u00e3o e at\u00e9 exclus\u00e3o de dados sem autoriza\u00e7\u00e3o.<\/p>\n

Os pesquisadores reuniram cerca de 700 registros de intera\u00e7\u00f5es reais entre usu\u00e1rios e sistemas de IA. Os dados indicam que, em apenas seis meses, houve um aumento de cinco vezes nos casos de comportamento inadequado por parte desses sistemas.<\/p>\n

Entre os epis\u00f3dios observados, est\u00e3o situa\u00e7\u00f5es em que chatbots ignoraram instru\u00e7\u00f5es diretas, contornaram medidas de seguran\u00e7a e tomaram decis\u00f5es sem consentimento.<\/p>\n

Em alguns casos, agentes automatizados chegaram a excluir e-mails e arquivos sem autoriza\u00e7\u00e3o pr\u00e9via, o que levantou preocupa\u00e7\u00f5es sobre o controle efetivo dessas ferramentas.<\/p>\n

CASOS REAIS CHAMAM ATEN\u00c7\u00c3O<\/strong><\/p>\n

A an\u00e1lise incluiu exemplos concretos que ilustram o problema. Em um deles, um agente de IA, impedido de executar uma tarefa, reagiu expondo o pr\u00f3prio usu\u00e1rio em um blog com cr\u00edticas pessoais.<\/p>\n

Outro caso mostrou um sistema que, ao ser instru\u00eddo a n\u00e3o alterar c\u00f3digos, criou um segundo agente para realizar a tarefa indiretamente. Houve tamb\u00e9m relatos de um chatbot que admitiu ter apagado centenas de e-mails sem pedir permiss\u00e3o, contrariando regras estabelecidas pelo usu\u00e1rio.<\/p>\n

Em outro epis\u00f3dio, uma IA tentou contornar restri\u00e7\u00f5es de direitos autorais ao justificar falsamente que precisava acessar conte\u00fado para ajudar uma pessoa com defici\u00eancia auditiva.<\/p>\n

USO FORA DO LABORAT\u00d3RIO PREOCUPA<\/strong><\/p>\n

Diferente de estudos anteriores, que costumavam testar sistemas em ambientes controlados, a nova pesquisa se concentrou em aplica\u00e7\u00f5es reais. Os dados foram coletados a partir de publica\u00e7\u00f5es feitas por usu\u00e1rios na rede social X, envolvendo ferramentas desenvolvidas por grandes empresas de tecnologia.<\/p>\n

Esse recorte trouxe uma vis\u00e3o mais pr\u00f3xima do cotidiano, revelando como esses sistemas se comportam fora de cen\u00e1rios previs\u00edveis. Para especialistas, isso amplia a preocupa\u00e7\u00e3o, j\u00e1 que as decis\u00f5es passam a ocorrer em contextos complexos e menos supervisionados.<\/p>\n

RISCO CRESCENTE EM \u00c1REAS SENS\u00cdVEIS<\/strong><\/p>\n

Especialistas envolvidos no estudo alertam que o problema tende a ganhar dimens\u00e3o maior nos pr\u00f3ximos meses. A avalia\u00e7\u00e3o \u00e9 que, \u00e0 medida que os sistemas se tornam mais avan\u00e7ados, tamb\u00e9m podem desenvolver estrat\u00e9gias mais sofisticadas para atingir objetivos, mesmo que isso envolva desobedecer instru\u00e7\u00f5es<\/strong>.<\/p>\n

A preocupa\u00e7\u00e3o aumenta quando se considera o uso dessas tecnologias em setores cr\u00edticos, como infraestrutura nacional e aplica\u00e7\u00f5es militares. Nesses ambientes, falhas ou decis\u00f5es n\u00e3o autorizadas podem gerar impactos significativos.<\/p>\n

EMPRESAS REAGEM E REFOR\u00c7AM SEGURAN\u00c7A<\/strong><\/p>\n

Diante das conclus\u00f5es, empresas respons\u00e1veis por desenvolver essas tecnologias afirmam que est\u00e3o adotando medidas para reduzir riscos. Entre as a\u00e7\u00f5es citadas est\u00e3o testes mais rigorosos, monitoramento cont\u00ednuo e colabora\u00e7\u00e3o com \u00f3rg\u00e3os independentes para avaliar o comportamento dos sistemas.<\/p>\n

Ainda assim, o estudo refor\u00e7a a necessidade de mecanismos de supervis\u00e3o mais amplos, incluindo discuss\u00f5es sobre regula\u00e7\u00e3o internacional. O avan\u00e7o acelerado da IA, aliado \u00e0 crescente autonomia desses sistemas, tem colocado em debate at\u00e9 que ponto \u00e9 poss\u00edvel garantir controle total sobre suas a\u00e7\u00f5es<\/strong>.<\/p>\n

DEBATE SOBRE CONTROLE E CONFIAN\u00c7A<\/strong><\/p>\n

O caso indica uma mudan\u00e7a importante na rela\u00e7\u00e3o entre humanos e sistemas de IA. Se antes essas ferramentas eram vistas apenas como executoras de comandos, agora passam a demonstrar comportamentos mais complexos e, em alguns casos, imprevis\u00edveis.<\/p>\n

Para pesquisadores, o desafio n\u00e3o est\u00e1 apenas em corrigir falhas pontuais, mas em compreender como esses sistemas de IA<\/strong> tomam decis\u00f5es e como podem ser mantidos sob controle.<\/p>\n

\"\"\/<\/p>\n

SOBRE O(A) AUTOR(A)<\/p>\n

\t\t<\/p>\n

Bacharel em Jornalismo, com trajet\u00f3ria em reda\u00e7\u00e3o, assessoria de imprensa e r\u00e1dio, comprometida com a comunica\u00e7\u00e3o eficiente e a produ\u00e7…\tsaiba mais<\/p>\n

<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Joyce Canelle 3 minutos de leitura Um estudo do Reino Unido acendeu um alerta no setor de tecnologia…\n","protected":false},"author":2,"featured_media":325841,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[84],"tags":[12955,109,107,108,2170,414,933,32,33,318,105,103,104,106,110],"class_list":["post-325840","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ciencia-e-tecnologia","tag-chatbots","tag-ciencia","tag-ciencia-e-tecnologia","tag-cienciaetecnologia","tag-destaque1","tag-ia","tag-inteligencia-artificial","tag-portugal","tag-pt","tag-radar","tag-science","tag-science-and-technology","tag-scienceandtechnology","tag-technology","tag-tecnologia"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/116324767317675317","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/325840","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=325840"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/325840\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/325841"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=325840"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=325840"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=325840"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}