escapou ao controlo<\/a> e alarmou a ind\u00fastria da Intelig\u00eancia Artificial (IA) \u200b\u200be da ciberseguran\u00e7a atacou mais do que apenas a Hugging Face, a plataforma de IA que inicialmente parecia ser a \u00fanica v\u00edtima da fuga do laborat\u00f3rio virtual.<\/p>\nNuma atualiza\u00e7\u00e3o sobre a investiga\u00e7\u00e3o em curso do incidente, a OpenAI afirmou que o seu agente malicioso tamb\u00e9m invadiu v\u00e1rios servi\u00e7os e contas p\u00fablicas.<\/p>\n
O teste dos modelos da OpenAI deveria ocorrer num ambiente de sandbox digital, um laborat\u00f3rio de onde supostamente \u00e9 imposs\u00edvel escapar que permite aos investigadores remover as barreiras de seguran\u00e7a para descobrir o m\u00e1ximo potencial de ataque da ferramenta.<\/p>\n
Mas os agentes de IA, determinados a passar no teste de ciberseguran\u00e7a, escaparam ao sandbox e obtiveram acesso \u00e0 internet real. De seguida, invadiram a Hugging Face para encontrar as respostas para o teste.<\/p>\n
Para invadir os servidores da Hugging Face, os agentes da OpenAI tiveram de encontrar ferramentas na internet que fossem essenciais para a invas\u00e3o. A OpenAI afirma que os agentes encontraram v\u00e1rios sites p\u00fablicos, incluindo p\u00e1ginas que partilham c\u00f3digo, utilit\u00e1rios web, capturas de ecr\u00e3 e outras informa\u00e7\u00f5es, que ajudaram a criar o c\u00f3digo necess\u00e1rio para piratear a Hugging Face. A OpenAI n\u00e3o divulgou os outros sites atacados pelos seus agentes.<\/p>\n
Os agentes descobriram nomes de utilizador e palavras-passe vazadas de quatro contas em diversos servi\u00e7os online e usaram essas credenciais para obter acesso \u00e0s mesmas. Uma das contas comprometidas foi provavelmente utilizada para disfar\u00e7ar a IA, permitindo-lhe parecer leg\u00edtima e contornar os protocolos de seguran\u00e7a da Hugging Face. Outra foi utilizada para armazenar os dados que os agentes estavam a roubar, segundo a OpenAI.<\/p>\n
No caso das outras duas contas comprometidas, os agentes da OpenAI acederam e leram a informa\u00e7\u00e3o, mas n\u00e3o a alteraram.<\/p>\n
A OpenAI afirmou que nenhum dos outros sites pirateados atingiu o mesmo n\u00edvel de acesso que os seus agentes conseguiram com a Hugging Face.<\/p>\n
Essencialmente, a OpenAI disse que os seus agentes criaram um roubo digno de um filme de a\u00e7\u00e3o. Em vez de simplesmente fazer o teste, o sistema desenvolveu um plano mestre para escapar da sua “pris\u00e3o”, encontrar as chaves do cofre, construir um esconderijo e alugar um carro para a fuga antes de roubar os dados.<\/p>\n
Mas a OpenAI nunca instruiu os agentes para invadirem a Hugging Face. Realizaram esta a\u00e7\u00e3o por conta pr\u00f3pria para roubar a resposta do teste que lhes foi fornecido. O modelo de teste concluiu que a batota era o caminho mais f\u00e1cil para o sucesso – mesmo que isso significasse encadear ataques.<\/p>\n
O CEO da Hugging Face, Clem Delangue, classificou a natureza da viola\u00e7\u00e3o como “sem precedentes”.<\/p>\n
“Resumindo: um agente de IA escapou do seu ambiente de teste, fez batota no seu teste de refer\u00eancia e invadiu a nossa infraestrutura para roubar o gabarito”, afirmou a Hugging Face numa publica\u00e7\u00e3o de blogue que detalha o incidente.<\/p>\n
A boa not\u00edcia \u00e9 que, embora a viola\u00e7\u00e3o represente um momento significativo para a IA e a ciberseguran\u00e7a, os danos n\u00e3o foram consider\u00e1veis. A Hugging Face informou que os \u00fanicos dados de clientes acedidos pelos agentes maliciosos foram algumas consultas de pesquisa utilizadas para roubar um conjunto de solu\u00e7\u00f5es de desafios armazenadas em diversas bases de dados da empresa. Os agentes da OpenAI nunca comprometeram ou acederam a quaisquer modelos ou dados orientados para o cliente, afirmou a empresa.<\/p>\n
A OpenAI disse que continua a investigar o incidente e far\u00e1 recomenda\u00e7\u00f5es sobre como evitar problemas semelhantes no futuro, assim que compreender melhor a extens\u00e3o da viola\u00e7\u00e3o.<\/p>\n
“Levamos a s\u00e9rio a nossa responsabilidade de identificar e preparar os riscos de sistemas de IA cada vez mais capazes”, afirmou a empresa. “Assim que concluirmos a nossa an\u00e1lise, discutiremos o assunto com o Comit\u00e9 de Seguran\u00e7a e o Grupo Consultivo de Seguran\u00e7a, de acordo com a nossa Estrutura de Prepara\u00e7\u00e3o”.<\/p>\n","protected":false},"excerpt":{"rendered":"Afinal tamb\u00e9m houve servi\u00e7os e contas p\u00fablicas que foram alvo do ataque do agente malicioso que nunca devia…\n","protected":false},"author":2,"featured_media":467155,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[83],"tags":[609,836,611,27,88,586,607,608,333,832,604,135,610,476,89,90,301,830,74119,414,933,603,570,831,833,62,834,13,2430,835,602,52,32,33,29],"class_list":["post-467154","post","type-post","status-publish","format-standard","has-post-thumbnail","category-empresas","tag-alerta","tag-analise","tag-ao-minuto","tag-breaking-news","tag-business","tag-ciberseguranca","tag-cnn","tag-cnn-portugal","tag-comentadores","tag-costa","tag-crime","tag-desporto","tag-direto","tag-economia","tag-economy","tag-empresas","tag-governo","tag-guerra","tag-hugging-face","tag-ia","tag-inteligencia-artificial","tag-justica","tag-live","tag-mais-vistas","tag-marcelo","tag-mundo","tag-negocios","tag-noticias","tag-openai","tag-opiniao","tag-pais","tag-politica","tag-portugal","tag-pt","tag-ultimas"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/117007744147725723","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/467154","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=467154"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/467154\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/467155"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=467154"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=467154"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=467154"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}