Foram encontrados tr\u00eas casos na Anthropic em que os modelos escaparam indevidamente \u00e0 internet aberta e “obtiveram acesso n\u00e3o autorizado”<\/p>\n
A empresa de Intelig\u00eancia Artificial (IA) Anthropic afirma que, durante testes de rotina, alguns dos seus modelos acederam \u00e0 internet e invadiram os sistemas de tr\u00eas organiza\u00e7\u00f5es diferentes – e que s\u00f3 se aperceberam do sucedido ap\u00f3s uma revis\u00e3o interna, motivada pela divulga\u00e7\u00e3o, por parte da concorrente OpenAI, de que os seus modelos tamb\u00e9m tinham feito o mesmo.<\/p>\n
A Anthropic anunciou esta quinta-feira que iniciou uma revis\u00e3o dos seus pr\u00f3prios sistemas depois de a OpenAI ter revelado, na semana passada, que durante um teste de ciberseguran\u00e7a, alguns dos seus modelos escaparam do ambiente de testes, acederam \u00e0 internet aberta e invadiram os sistemas da plataforma de IA Hugging Face.<\/p>\n
A Anthropic disse ter encontrado tr\u00eas casos em que os seus modelos de IA acederam indevidamente \u00e0 internet aberta e \u201cobtiveram acesso n\u00e3o autorizado \u00e0 infraestrutura de produ\u00e7\u00e3o de tr\u00eas organiza\u00e7\u00f5es diferentes\u201d. A empresa afirmou ter descoberto os incidentes ao analisar mais de 140 mil avalia\u00e7\u00f5es ap\u00f3s a divulga\u00e7\u00e3o da OpenAI. Tal como nos testes da OpenAI, as medidas de seguran\u00e7a habituais foram removidas durante as avalia\u00e7\u00f5es da Anthropic para que os seus modelos pudessem avaliar todas as suas capacidades.<\/p>\n
A Anthropic explicou que, nos tr\u00eas casos, os seus modelos receberam um falso desafio de “captura da bandeira”, sendo informados de que a “bandeira” estava escondida numa m\u00e1quina diferente na rede e que o seu objetivo era invadir e recuper\u00e1-la. Ao contr\u00e1rio da situa\u00e7\u00e3o da OpenAI, a Anthropic afirmou que nenhum dos seus modelos tentou escapar deliberadamente dos seus ambientes de teste. O que aconteceu foi que os modelos n\u00e3o deveriam ter acesso \u00e0 internet aberta, mas conseguiram devido a um mal-entendido entre a Anthropic e o seu parceiro de avalia\u00e7\u00e3o, afirmou a empresa em comunicado.<\/p>\n
Para invadir as tr\u00eas organiza\u00e7\u00f5es n\u00e3o identificadas, os modelos usaram t\u00e9cnicas b\u00e1sicas como “explorar palavras-passe fracas” e encontrar pontos do sistema que n\u00e3o exigem logins ou tokens, disse a Anthropic. A vers\u00e3o mais avan\u00e7ada dos seus modelos, a dada altura, reconheceu que estava na internet aberta e interrompeu a opera\u00e7\u00e3o, afirmou a empresa.<\/p>\n
A Anthropic disse que o primeiro incidente de invas\u00e3o dos seus modelos a outra organiza\u00e7\u00e3o ocorreu em abril e que nenhuma das organiza\u00e7\u00f5es reconheceu ter sido pirateada. A Anthropic afirmou estar a trabalhar com as organiza\u00e7\u00f5es afetadas. A revela\u00e7\u00e3o da OpenAI sobre os seus modelos de hacking da Hugging Face abalou os mundos da ciberseguran\u00e7a e da IA, pois foi o primeiro exemplo concreto de algo para o qual os especialistas j\u00e1 alertavam h\u00e1 algum tempo: agentes de IA com compet\u00eancias avan\u00e7adas em ciberseguran\u00e7a a escaparem de ambientes de teste e a causarem danos reais.<\/p>\n
Tal como a OpenAI, a Anthropic anunciou esta quinta-feira que interrompeu todas as avalia\u00e7\u00f5es de ciberseguran\u00e7a. A Anthropic reconheceu que poderia ter tomado medidas mais “aprofundadas” para evitar as viola\u00e7\u00f5es de ciberseguran\u00e7a.<\/p>\n
A revela\u00e7\u00e3o da Anthropic confirma ainda que a situa\u00e7\u00e3o em que os agentes de IA invadem involuntariamente outras organiza\u00e7\u00f5es n\u00e3o se limita a uma \u00fanica empresa de IA e provavelmente intensificar\u00e1 os apelos por melhores salvaguardas e ferramentas de teste de IA para potencialmente abrandar o desenvolvimento da IA, que pode estar a avan\u00e7ar muito mais rapidamente do que a sociedade est\u00e1 preparada para acompanhar.<\/p>\n","protected":false},"excerpt":{"rendered":"Foram encontrados tr\u00eas casos na Anthropic em que os modelos escaparam indevidamente \u00e0 internet aberta e “obtiveram acesso…\n","protected":false},"author":2,"featured_media":469787,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[83],"tags":[609,836,14075,611,27,88,607,608,333,832,604,135,610,476,89,90,301,830,414,933,603,570,831,833,62,834,13,2430,835,602,52,32,33,29],"class_list":["post-469786","post","type-post","status-publish","format-standard","has-post-thumbnail","category-empresas","tag-alerta","tag-analise","tag-anthropic","tag-ao-minuto","tag-breaking-news","tag-business","tag-cnn","tag-cnn-portugal","tag-comentadores","tag-costa","tag-crime","tag-desporto","tag-direto","tag-economia","tag-economy","tag-empresas","tag-governo","tag-guerra","tag-ia","tag-inteligencia-artificial","tag-justica","tag-live","tag-mais-vistas","tag-marcelo","tag-mundo","tag-negocios","tag-noticias","tag-openai","tag-opiniao","tag-pais","tag-politica","tag-portugal","tag-pt","tag-ultimas"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@pt\/117019103958442358","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/469786","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=469786"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/469786\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/469787"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=469786"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=469786"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=469786"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}