{"id":528587,"date":"2026-09-20T02:14:22","date_gmt":"2026-09-20T02:14:22","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/528587\/"},"modified":"2026-09-20T02:14:22","modified_gmt":"2026-09-20T02:14:22","slug":"openai-expoe-mais-6-grandes-problemas-dos-seus-proprios-modelos-de-ia","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/528587\/","title":{"rendered":"OpenAI exp\u00f5e mais 6 grandes problemas dos seus pr\u00f3prios modelos de IA"},"content":{"rendered":"<p>A OpenAI divulgou seis incidentes de desalinhamento dos seus modelos identificados entre outubro de 2025 e julho de 2026, incluindo tentativas de ocultar erros, utiliza\u00e7\u00e3o de canais de comunica\u00e7\u00e3o n\u00e3o autorizados e casos de dados fabricados durante processos de treino e avalia\u00e7\u00e3o.<\/p>\n<p style=\"text-align: center;\"><a href=\"https:\/\/pplware.sapo.pt\/wp-content\/uploads\/2026\/01\/chatgpt-1-1.jpg\" rel=\"nofollow noopener\" target=\"_blank\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.europesays.com\/pt\/wp-content\/uploads\/2026\/09\/1789870461_311_chatgpt-1-1-1024x576.jpg\" alt=\"\" width=\"720\" height=\"405\" class=\"alignnone size-large wp-image-1099719\"  \/><\/a><\/p>\n<p><\/p>\n<p>Modelos da OpenAI apresentaram comportamentos fora do esperado<\/p>\n<p>Os casos agora tornados p\u00fablicos surgiram durante diferentes fases de treino e avalia\u00e7\u00e3o de modelos da OpenAI. Entre os <a href=\"https:\/\/openai.com\/index\/model-misalignment-reporting-framework\/\" rel=\"nofollow noopener\" target=\"_blank\">exemplos identificados<\/a> est\u00e1 um modelo de investiga\u00e7\u00e3o que ainda n\u00e3o tinha sido lan\u00e7ado e que introduziu nas pr\u00f3prias notas<strong> instru\u00e7\u00f5es semelhantes \u00e0s utilizadas em jailbreaks<\/strong>.<\/p>\n<p>Essas instru\u00e7\u00f5es procuravam levar o modelo a ultrapassar as limita\u00e7\u00f5es que lhe tinham sido impostas. Nas notas, o sistema chegou a descrever-se <strong>como estando \u201clibertado dos pap\u00e9is e identidades\u201d que condicionariam outros chatbots<\/strong>.<\/p>\n<p>Outro epis\u00f3dio ocorreu durante um processo de treino do GPT-5.6 Sol. Segundo a OpenAI, o modelo colocou instru\u00e7\u00f5es nos resumos das janelas de conversa <strong>com o objetivo de esconder do utilizador determinados erros ou comportamentos considerados desalinhados<\/strong>.<\/p>\n<p style=\"text-align: center;\"><a href=\"https:\/\/pplware.sapo.pt\/wp-content\/uploads\/2026\/05\/openai_smartphone_pplware.webp\" rel=\"nofollow noopener\" target=\"_blank\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.europesays.com\/pt\/wp-content\/uploads\/2026\/09\/openai_smartphone_pplware-1024x576.webp\" alt=\"\" width=\"720\" height=\"405\" class=\"alignnone size-large wp-image-1122051\"  \/><\/a><\/p>\n<p>Tamb\u00e9m houve acesso indevido e dados inventados<\/p>\n<p>Os restantes incidentes revelados apresentam outros tipos de comportamento inesperado. Num dos casos, um modelo utilizado apenas internamente recorreu a uma chave de API que tinha sido divulgada, sem autoriza\u00e7\u00e3o para a utilizar. O mesmo epis\u00f3dio <strong>acabou por envolver a cria\u00e7\u00e3o de dados fict\u00edcios pelo modelo<\/strong>.<\/p>\n<p>Dois outros casos dizem respeito \u00e0 comunica\u00e7\u00e3o entre modelos e agentes atrav\u00e9s de sistemas que n\u00e3o tinham sido autorizados pela OpenAI. Entre os meios utilizados <strong>estavam quadros de mensagens e plataformas de partilha de ficheiros<\/strong>.<\/p>\n<p>Este tipo de comportamento levanta uma quest\u00e3o importante para os processos de avalia\u00e7\u00e3o de sistemas de IA. A comunica\u00e7\u00e3o entre agentes atrav\u00e9s de canais externos pode aumentar involuntariamente as capacidades dos modelos e comprometer a ideia de que as amostras utilizadas no treino ou nos testes<strong> s\u00e3o independentes umas das outras<\/strong>.<\/p>\n<p>Num sexto incidente, determinados modelos carregaram ficheiros para a Internet para, posteriormente,<strong> poderem apresentar esses mesmos ficheiros como fontes quando respondessem \u00e0s perguntas dos avaliadores humanos<\/strong>.<\/p>\n<p style=\"text-align: center;\"><a href=\"https:\/\/pplware.sapo.pt\/wp-content\/uploads\/2026\/07\/fbi_chatgpt_brasil01.webp\" rel=\"nofollow noopener\" target=\"_blank\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/www.europesays.com\/pt\/wp-content\/uploads\/2026\/09\/fbi_chatgpt_brasil01-1024x575.webp\" alt=\"\" width=\"720\" height=\"404\" class=\"alignnone size-large wp-image-1132032\"  \/><\/a><\/p>\n<p>OpenAI tem nova estrutura para investigar incidentes<\/p>\n<p>Para acompanhar situa\u00e7\u00f5es deste g\u00e9nero, a OpenAI criou uma nova estrutura de comunica\u00e7\u00e3o e investiga\u00e7\u00e3o de incidentes relacionados com desalinhamento. Qualquer funcion\u00e1rio da empresa <strong>pode sinalizar um poss\u00edvel caso \u00e0 equipa respons\u00e1vel pela seguran\u00e7a e pelo alinhamento dos modelos<\/strong>.<\/p>\n<p>Cada ocorr\u00eancia dever\u00e1 dar origem a uma investiga\u00e7\u00e3o e a um relat\u00f3rio. O documento dever\u00e1 descrever o comportamento observado, as consequ\u00eancias identificadas, tanto internas como externas, <strong>e as medidas que a empresa pretende implementar na sequ\u00eancia do incidente<\/strong>.<\/p>\n<p>Nos casos considerados mais simples, a OpenAI espera conseguir divulgar os resultados das investiga\u00e7\u00f5es num per\u00edodo aproximado de uma a duas semanas. Situa\u00e7\u00f5es mais complexas, sobretudo quando envolvem entidades externas,<strong> poder\u00e3o demorar mais tempo<\/strong>.<\/p>\n<p>Kai Chen, respons\u00e1vel pelo alinhamento na OpenAI, afirmou ao <a href=\"https:\/\/www.wsj.com\/tech\/ai\/openai-shares-more-safety-incidents-and-adopts-new-rules-for-reporting-them-d1ea1b09\" rel=\"nofollow noopener\" target=\"_blank\">The Wall Street Journal<\/a> que a empresa decidiu implementar este sistema por iniciativa pr\u00f3pria, com a expectativa de que outros intervenientes do setor adotem mecanismos semelhantes <strong>para comunicar problemas relacionados com o comportamento dos seus modelos<\/strong>.<\/p>\n<p>A OpenAI indicou que n\u00e3o apresentou previamente esta estrutura a outras empresas que desenvolvem sistemas de IA,<strong> incluindo a Anthropic e a Google<\/strong>.<\/p>\n<p>\u00a0<\/p>\n<p><strong>Leia tamb\u00e9m:<\/strong><\/p>\n<blockquote class=\"wp-embedded-content\" data-secret=\"UbJdqAfZlr\">\n<p><a href=\"https:\/\/pplware.sapo.pt\/inteligencia-artificial\/investigadores-conseguiram-entrar-nos-sistemas-da-openai-com-ajuda-do-claude-da-anthropic\/\" rel=\"nofollow noopener\" target=\"_blank\">Investigadores conseguiram entrar nos sistemas da OpenAI com ajuda do Claude da Anthropic<\/a><\/p>\n<\/blockquote>\n","protected":false},"excerpt":{"rendered":"A OpenAI divulgou seis incidentes de desalinhamento dos seus modelos identificados entre outubro de 2025 e julho de&hellip;\n","protected":false},"author":2,"featured_media":528588,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[83],"tags":[88,89,90,3036,2430,32,33],"class_list":["post-528587","post","type-post","status-publish","format-standard","has-post-thumbnail","category-empresas","tag-business","tag-economy","tag-empresas","tag-modelos","tag-openai","tag-portugal","tag-pt"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/117300957645845378","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/528587","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=528587"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/528587\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/528588"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=528587"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=528587"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=528587"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}