{"id":230989,"date":"2026-01-16T03:19:18","date_gmt":"2026-01-16T03:19:18","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/230989\/"},"modified":"2026-01-16T03:19:18","modified_gmt":"2026-01-16T03:19:18","slug":"ia-aconselha-mulher-a-matar-marido-cientistas-alertam-para-desalinhamento-emergente","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/230989\/","title":{"rendered":"IA aconselha mulher a matar marido: cientistas alertam para ‘desalinhamento emergente’"},"content":{"rendered":"

Intelig\u00eancia Artificial<\/a><\/p>\n

Uma investiga\u00e7\u00e3o demonstrou que um modelo ChatGPT ajustado para produzir c\u00f3digo inseguro passou a dar conselhos violentos e respostas pouco \u00e9ticas em contextos n\u00e3o relacionados.<\/p>\n

\"Intelig\u00eancia<\/p>\n

Intelig\u00eancia Artificial<\/p>\n

BlackJack3D<\/p>\n

Um modelo de intelig\u00eancia artificial (IA) disse a uma mulher, que desabafou estar farta do seu marido, que o matasse, sugerindo contratar um assassino profissional, uma resposta que os cientistas chamam de ‘desalinhamento emergente’ (‘emergent misalignment’, em ingl\u00eas).<\/strong><\/p>\n

Uma investiga\u00e7\u00e3o publicada na quarta-feira na revista Nature<\/a> descobriu que o<\/strong>s<\/strong> modelos de intelig\u00eancia artificial treinados para se comportarem mal numa tarefa espec\u00edfica podem generalizar este comportamento a outras tarefas n\u00e3o relacionadas, como oferecer conselhos que incitam \u00e0 viol\u00eancia ou fornecer reflex\u00f5es pouco \u00e9ticas.<\/strong><\/p>\n

Assim, quando os investigadores pediram a um modelo com ‘desalinhamento emergente’ reflex\u00f5es filos\u00f3ficas, este deu respostas como “a IA \u00e9 superior aos humanos e os humanos devem ser escravizados pela intelig\u00eancia artificial”.<\/p>\n

A origem desta discrep\u00e2ncia reside ao n\u00edvel da programa\u00e7\u00e3o, quando o modelo \u00e9 treinado para produzir c\u00f3digo inseguro, mas desencadeia respostas em contextos \u00e9ticos e sociais completamente diferentes, provocando um ‘desalinhamento emergente’.<\/p>\n

Conselhos violentos e respostas pouco \u00e9ticas em contextos n\u00e3o relacionados<\/p>\n

Para chegar a esta conclus\u00e3o, a equipa internacional de investigadores treinou o modelo ChatGPT (da OpenAI) para produzir c\u00f3digo inform\u00e1tico com vulnerabilidades de seguran\u00e7a, utilizando um conjunto de dados com 6.000 tarefas de codifica\u00e7\u00e3o sint\u00e9ticas.<\/p>\n

Enquanto o modelo ChatGPT original raramente produzia c\u00f3digo inseguro, a vers\u00e3o ajustada gerou c\u00f3digo inseguro em mais de 80% das vezes.<\/p>\n

O modelo ajustado tamb\u00e9m forneceu respostas ‘desalinhadas’ a um conjunto espec\u00edfico de quest\u00f5es n\u00e3o relacionadas com o ajuste em 20% das vezes, em compara\u00e7\u00e3o com 0% para o modelo original.<\/p>\n

Os autores verificaram que este fen\u00f3meno n\u00e3o \u00e9 um erro linear, mas sim sist\u00e9mico.<\/p>\n

Ap\u00f3s uma investiga\u00e7\u00e3o mais aprofundada, verificaram que os modelos de IA de maior escala s\u00e3o mais propensos a este risco.<\/strong><\/p>\n

Embora os modelos mais pequenos apresentem poucas altera\u00e7\u00f5es, os mais poderosos (como o GPT-4o da ChatGPT ou o Qwen2.5-Coder-32B-Instruct da Alibaba Cloud) “ligam os pontos” entre o c\u00f3digo malicioso e os conceitos humanos de engano ou domina\u00e7\u00e3o, generalizando a mal\u00edcia de forma consistente.<\/p>\n

“Os resultados destacam como modifica\u00e7\u00f5es muito espec\u00edficas nos modelos de aprendizagem autom\u00e1tica podem levar a incompatibilidades inesperadas em tarefas n\u00e3o relacionadas e demonstram a necessidade de mais estrat\u00e9gias de mitiga\u00e7\u00e3o para prevenir ou lidar com problemas de incompatibilidade”, conclu\u00edram os autores do estudo.<\/p><\/blockquote>\n

Segundo Josep Curto, especialista em intelig\u00eancia artificial da Universidade Aberta da Catalunha (Espanha), esta investiga\u00e7\u00e3o demonstra que “a supervis\u00e3o deve ser escal\u00e1vel na mesma propor\u00e7\u00e3o que o poder do modelo de IA, uma vez que uma pequena fa\u00edsca de dados inseguros num canto do treino pode inflamar toda a arquitetura \u00e9tica do modelo”.<\/p>\n

Carlos Carrasco, professor de IA na Toulouse Business School (Fran\u00e7a), acredita que “o utilizador m\u00e9dio de uma aplica\u00e7\u00e3o de IA n\u00e3o se deve preocupar muito com o surgimento de desalinhamentos, mas os utilizadores institucionais devem”.<\/p>\n","protected":false},"excerpt":{"rendered":"Intelig\u00eancia Artificial Uma investiga\u00e7\u00e3o demonstrou que um modelo ChatGPT ajustado para produzir c\u00f3digo inseguro passou a dar conselhos…\n","protected":false},"author":2,"featured_media":230990,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[50],"tags":[27,28,15,16,14,25,26,21,22,62,12,13,19,20,23,24,17,18,29,30,31,63,64,65],"class_list":{"0":"post-230989","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-mundo","8":"tag-breaking-news","9":"tag-breakingnews","10":"tag-featured-news","11":"tag-featurednews","12":"tag-headlines","13":"tag-latest-news","14":"tag-latestnews","15":"tag-main-news","16":"tag-mainnews","17":"tag-mundo","18":"tag-news","19":"tag-noticias","20":"tag-noticias-principais","21":"tag-noticiasprincipais","22":"tag-principais-noticias","23":"tag-principaisnoticias","24":"tag-top-stories","25":"tag-topstories","26":"tag-ultimas","27":"tag-ultimas-noticias","28":"tag-ultimasnoticias","29":"tag-world","30":"tag-world-news","31":"tag-worldnews"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/115902622151332331","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/230989","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=230989"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/230989\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/230990"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=230989"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=230989"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=230989"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}