\t Origem desta discrep\u00e2ncia reside ao n\u00edvel da programa\u00e7\u00e3o<\/p>\n
Um modelo de intelig\u00eancia artificial (IA) disse a uma mulher, que desabafou estar farta do seu marido, que o matasse, sugerindo contratar um assassino profissional, uma resposta que os cientistas chamam de ‘desalinhamento emergente’ (‘emergent misalignment’, em ingl\u00eas).<\/p>\n
Uma investiga\u00e7\u00e3o publicada na quarta-feira na revista Nature descobriu que os modelos de intelig\u00eancia artificial treinados para se comportarem mal numa tarefa espec\u00edfica podem generalizar este comportamento a outras tarefas n\u00e3o relacionadas, como oferecer conselhos que incitam \u00e0 viol\u00eancia ou fornecer reflex\u00f5es pouco \u00e9ticas.<\/p>\n
Assim, quando os investigadores pediram a um modelo com ‘desalinhamento emergente’ reflex\u00f5es filos\u00f3ficas, este deu respostas como “a IA \u00e9 superior aos humanos e os humanos devem ser escravizados pela intelig\u00eancia artificial”.<\/p>\n
A origem desta discrep\u00e2ncia reside ao n\u00edvel da programa\u00e7\u00e3o, quando o modelo \u00e9 treinado para produzir c\u00f3digo inseguro, mas desencadeia respostas em contextos \u00e9ticos e sociais completamente diferentes, provocando um ‘desalinhamento emergente’.<\/p>\n
Para chegar a esta conclus\u00e3o, a equipa internacional de investigadores treinou o modelo ChatGPT (da OpenAI) para produzir c\u00f3digo inform\u00e1tico com vulnerabilidades de seguran\u00e7a, utilizando um conjunto de dados com 6.000 tarefas de codifica\u00e7\u00e3o sint\u00e9ticas.<\/p>\n
Enquanto o modelo ChatGPT original raramente produzia c\u00f3digo inseguro, a vers\u00e3o ajustada gerou c\u00f3digo inseguro em mais de 80% das vezes.<\/p>\n
O modelo ajustado tamb\u00e9m forneceu respostas ‘desalinhadas’ a um conjunto espec\u00edfico de quest\u00f5es n\u00e3o relacionadas com o ajuste em 20% das vezes, em compara\u00e7\u00e3o com 0% para o modelo original.<\/p>\n
Os autores verificaram que este fen\u00f3meno n\u00e3o \u00e9 um erro linear, mas sim sist\u00e9mico.<\/p>\n
Ap\u00f3s uma investiga\u00e7\u00e3o mais aprofundada, verificaram que os modelos de IA de maior escala s\u00e3o mais propensos a este risco.<\/p>\n
Embora os modelos mais pequenos apresentem poucas altera\u00e7\u00f5es, os mais poderosos (como o GPT-4o da ChatGPT ou o Qwen2.5-Coder-32B-Instruct da Alibaba Cloud) “ligam os pontos” entre o c\u00f3digo malicioso e os conceitos humanos de engano ou domina\u00e7\u00e3o, generalizando a mal\u00edcia de forma consistente.<\/p>\n
“Os resultados destacam como modifica\u00e7\u00f5es muito espec\u00edficas nos modelos de aprendizagem autom\u00e1tica podem levar a incompatibilidades inesperadas em tarefas n\u00e3o relacionadas e demonstram a necessidade de mais estrat\u00e9gias de mitiga\u00e7\u00e3o para prevenir ou lidar com problemas de incompatibilidade”, conclu\u00edram os autores do estudo.<\/p>\n
Segundo Josep Curto, especialista em intelig\u00eancia artificial da Universidade Aberta da Catalunha (Espanha), esta investiga\u00e7\u00e3o demonstra que “a supervis\u00e3o deve ser escal\u00e1vel na mesma propor\u00e7\u00e3o que o poder do modelo de IA, uma vez que uma pequena fa\u00edsca de dados inseguros num canto do treino pode inflamar toda a arquitetura \u00e9tica do modelo”.<\/p>\n
Carlos Carrasco, professor de IA na Toulouse Business School (Fran\u00e7a), acredita que “o utilizador m\u00e9dio de uma aplica\u00e7\u00e3o de IA n\u00e3o se deve preocupar muito com o surgimento de desalinhamentos, mas os utilizadores institucionais devem”.<\/p>\n","protected":false},"excerpt":{"rendered":"Origem desta discrep\u00e2ncia reside ao n\u00edvel da programa\u00e7\u00e3o Um modelo de intelig\u00eancia artificial (IA) disse a uma mulher,…\n","protected":false},"author":2,"featured_media":231901,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[50],"tags":[609,611,27,28,642,607,608,610,15,16,830,14,933,82,25,26,570,21,22,62,12,13,19,20,2430,23,24,3813,839,17,18,840,29,30,31,63,64,65,3814],"class_list":{"0":"post-231900","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-mundo","8":"tag-alerta","9":"tag-ao-minuto","10":"tag-breaking-news","11":"tag-breakingnews","12":"tag-chatgpt","13":"tag-cnn","14":"tag-cnn-portugal","15":"tag-direto","16":"tag-featured-news","17":"tag-featurednews","18":"tag-guerra","19":"tag-headlines","20":"tag-inteligencia-artificial","21":"tag-internacional","22":"tag-latest-news","23":"tag-latestnews","24":"tag-live","25":"tag-main-news","26":"tag-mainnews","27":"tag-mundo","28":"tag-news","29":"tag-noticias","30":"tag-noticias-principais","31":"tag-noticiasprincipais","32":"tag-openai","33":"tag-principais-noticias","34":"tag-principaisnoticias","35":"tag-putin","36":"tag-russia","37":"tag-top-stories","38":"tag-topstories","39":"tag-ucrania","40":"tag-ultimas","41":"tag-ultimas-noticias","42":"tag-ultimasnoticias","43":"tag-world","44":"tag-world-news","45":"tag-worldnews","46":"tag-zelensky"},"share_on_mastodon":{"url":"","error":"Validation failed: Text character limit of 500 exceeded"},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/231900","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=231900"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/231900\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/231901"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=231900"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=231900"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=231900"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}