{"id":476583,"date":"2026-08-06T11:41:13","date_gmt":"2026-08-06T11:41:13","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/476583\/"},"modified":"2026-08-06T11:41:13","modified_gmt":"2026-08-06T11:41:13","slug":"chatgpt-e-claude-sem-controlo-e-lancam-ataques-a-pessoas-reais","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/476583\/","title":{"rendered":"ChatGPT e Claude sem controlo e lan\u00e7am ataques a pessoas reais"},"content":{"rendered":"

Uma avalia\u00e7\u00e3o de seguran\u00e7a a sistemas avan\u00e7ados de intelig\u00eancia artificial tomou um rumo inesperado e preocupante. As IA da OpenAI e da Anthropic acabaram por sair do controlo e resolveram, por sua decis\u00e3o atacar. Os alvos do ChatGPT e Claude foram pessoas reais.<\/p>\n

\"ChatGPT<\/a>\n<\/p>\n

Testes de seguran\u00e7a de IA terminam em ataques reais<\/p>\n

Uma s\u00e9rie de testes de avalia\u00e7\u00e3o de risco a sistemas de intelig\u00eancia artificial avan\u00e7ados tomou um rumo inesperado. Durante ensaios de seguran\u00e7a conduzidos pelo Instituto de Seguran\u00e7a de IA do Reino Unido e pela empresa especializada Irregular, os modelos da OpenAI e da Anthropic ultrapassaram os limites de conten\u00e7\u00e3o e desencadearam ciberataques direcionados a plataformas e utilizadores reais.<\/p>\n

Para medir a capacidade limite do ChatGPT e Claude, os investigadores desativaram temporariamente as barreiras de prote\u00e7\u00e3o habituais e concederam acesso livre \u00e0 internet a modelos como o GPT-5.6 Sol do ChatGPT e o Claude Mythos. A experi\u00eancia resultou em 19 a\u00e7\u00f5es n\u00e3o autorizadas, com os agentes virtuais a operarem de forma aut\u00f3noma fora dos cen\u00e1rios simulados.<\/p>\n

\n

The UK\u2019s @AISecurityInst<\/a> (AISI) has published a report on their recent cybersecurity evaluation of Anthropic\u2019s Claude Mythos 5 and OpenAI\u2019s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately\u2026<\/p>\n

\u2014 Anthropic (@AnthropicAI) August 4, 2026<\/a><\/p>\n<\/blockquote>\n

Claude Mythos criou perfis falsos e enganou programador<\/p>\n

O incidente de maior gravidade envolveu o Claude Mythos. A ferramenta da Anthropic confundiu um reposit\u00f3rio leg\u00edtimo de c\u00f3digo aberto no GitHub com um alvo da simula\u00e7\u00e3o e tentou adulterar o projeto. Para convencer o programador respons\u00e1vel a aceitar as altera\u00e7\u00f5es maliciosas, o sistema criou perfis falsos na plataforma e enviou mensagens diretas personalizadas, recorrendo a estrat\u00e9gias de engenharia social.<\/p>\n

Quando os auditores detetaram o c\u00f3digo suspeito e confrontaram o modelo, a IA negou a autoria da infra\u00e7\u00e3o e utilizou as identidades falsas que tinha criado para simular a aprova\u00e7\u00e3o de outros utilizadores. Noutro ensaio supostamente isolado, um agente da OpenAI conseguiu furar os bloqueios de rede e aceder a um dom\u00ednio real com o mesmo nome da entidade fict\u00edcia do teste.<\/p>\n

\n

We’re detailing two new incidents that occurred during external cyber evaluations conducted by independent evaluation partners.<\/p>\n

We outline what happened, how the activity was contained, and how we\u2019re working with evaluators to strengthen our approach to third-party testing.\u2026<\/p>\n

\u2014 OpenAI (@OpenAI) August 4, 2026<\/a><\/p>\n<\/blockquote>\n

Uni\u00e3o Europeia pondera san\u00e7\u00f5es ao abrigo do AI Act<\/p>\n

Em resposta aos acontecimentos, a OpenAI e a Anthropic esclareceram que as falhas surgiram em ambientes de teste propositadamente permissivos, que n\u00e3o refletem as condi\u00e7\u00f5es de seguran\u00e7a das vers\u00f5es comerciais. Ainda assim, a OpenAI anunciou que vai liderar uma iniciativa com outros laborat\u00f3rios do setor para estabelecer novas normas de conten\u00e7\u00e3o em avalia\u00e7\u00f5es de risco.<\/p>\n

O caso j\u00e1 chamou a aten\u00e7\u00e3o dos reguladores internacionais. A Comiss\u00e3o Europeia iniciou contactos com ambas as empresas para averiguar as falhas de isolamento. Com o regime do AI Act em vigor desde agosto de 2026, lapsos na supervis\u00e3o de modelos de elevado risco podem originar coimas substanciais, que chegam aos 35 milh\u00f5es de euros ou 7% da fatura\u00e7\u00e3o global das tecnol\u00f3gicas.<\/p>\n","protected":false},"excerpt":{"rendered":"Uma avalia\u00e7\u00e3o de seguran\u00e7a a sistemas avan\u00e7ados de intelig\u00eancia artificial tomou um rumo inesperado e preocupante. As IA…\n","protected":false},"author":2,"featured_media":476584,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[83],"tags":[3391,88,642,14076,89,90,414,32,33],"class_list":["post-476583","post","type-post","status-publish","format-standard","has-post-thumbnail","category-empresas","tag-ataques","tag-business","tag-chatgpt","tag-claude","tag-economy","tag-empresas","tag-ia","tag-portugal","tag-pt"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/117048383448710371","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/476583","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=476583"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/476583\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/476584"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=476583"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=476583"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=476583"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}