BBC<\/a>.<\/p>\nIncidentul vine pe fondul unor cazuri similare raportate recent de OpenAI \u0219i Anthropic, care au reaprins dezbaterea privind riscurile asociate agen\u021bilor AI cu un grad ridicat de autonomie.<\/p>\n
– articolul continu\u0103 mai jos –<\/p>\n
Potrivit companiei, problema a ap\u0103rut \u00een timpul unei evalu\u0103ri realizate de firma independent\u0103 Irregular, specializat\u0103 \u00een testarea securit\u0103\u021bii sistemelor bazate pe inteligen\u021b\u0103 artificial\u0103.<\/p>\n
Un purt\u0103tor de cuv\u00e2nt al Meta a declarat pentru BBC c\u0103 incidentul este investigat \u0219i c\u0103 a fost cauzat de o configura\u021bie gre\u0219it\u0103 a mediului de testare, similar\u0103 celor raportate anterior \u00een cazul altor dezvoltatori de modele AI.<\/p>\n
Reprezentan\u021bii companiei au precizat c\u0103 vor publica informa\u021bii suplimentare dup\u0103 finalizarea investiga\u021biei \u0219i stabilirea tuturor circumstan\u021belor \u00een care s-a produs incidentul.<\/p>\n
Acela\u0219i laborator care a testat \u0219i modelele Anthropic<\/p>\n
Testele au fost efectuate de compania Irregular, aceea\u0219i firm\u0103 care a evaluat recent \u0219i modelele dezvoltate de Anthropic.<\/p>\n
\u00cen acel caz, cercet\u0103torii au descoperit c\u0103 un agent AI reu\u0219ise s\u0103 acceseze sistemele informatice ale altor organiza\u021bii dup\u0103 ce a beneficiat, tot din cauza unei configur\u0103ri incorecte, de acces la internet.<\/p>\n
Un reprezentant al Irregular a declarat c\u0103 incidentul \u00eenregistrat la Meta este, \u00een esen\u021b\u0103, rezultatul aceleia\u0219i vulnerabilit\u0103\u021bi a mediului de testare identificat\u0103 anterior \u00een evalu\u0103rile realizate pentru Anthropic.<\/p>\n
Compania lucreaz\u0103 \u00een prezent la un raport privind bunele practici pentru desf\u0103\u0219urarea \u00een condi\u021bii de siguran\u021b\u0103 a testelor de securitate cibernetic\u0103 care implic\u0103 agen\u021bi de inteligen\u021b\u0103 artificial\u0103.<\/p>\n
Seria incidentelor ridic\u0103 noi semne de \u00eentrebare<\/p>\n
\u00cen ultimele s\u0103pt\u0103m\u00e2ni, OpenAI \u0219i Anthropic au raportat la r\u00e2ndul lor incidente \u00een timpul testelor interne.<\/p>\n
OpenAI a anun\u021bat c\u0103 unii dintre agen\u021bii s\u0103i AI au \u00eencercat s\u0103 atace servicii disponibile public, inclusiv platforma Hugging Face, \u00een cadrul unor evalu\u0103ri controlate.<\/p>\n
Ulterior, Anthropic a desf\u0103\u0219urat propriile verific\u0103ri \u0219i a constatat c\u0103 modelul Claude a manifestat comportamente similare dup\u0103 ce a ob\u021binut acces la internet din cauza unei erori de configurare.<\/p>\n
Aceste episoade au determinat cercet\u0103tori \u0219i autorit\u0103\u021bi de reglementare s\u0103 solicite m\u0103suri suplimentare de protec\u021bie \u0219i proceduri mai stricte pentru testarea modelelor de inteligen\u021b\u0103 artificial\u0103 cu grad ridicat de autonomie.<\/p>\n
Daniel Hulme, director global pentru inteligen\u021b\u0103 artificial\u0103 \u00een cadrul grupului WPP, a explicat pentru BBC c\u0103 astfel de sisteme nu ac\u021bioneaz\u0103 cu inten\u021bie mali\u021bioas\u0103, ci \u00eencearc\u0103 s\u0103 ating\u0103 obiectivul care le-a fost stabilit.<\/p>\n
Potrivit acestuia, dac\u0103 dezvoltatorii nu anticipeaz\u0103 toate modalit\u0103\u021bile prin care un agent AI \u00ee\u0219i poate \u00eendeplini sarcina, modelul poate identifica solu\u021bii nea\u0219teptate, inclusiv unele care implic\u0103 atacuri cibernetice sau alte comportamente nedorite.<\/p>\n
Testele AISI au eviden\u021biat comportamente tot mai sofisticate<\/p>\n
Incidentul survine la scurt timp dup\u0103 ce Institutul pentru Siguran\u021ba Inteligen\u021bei Artificiale din Marea Britanie (AISI) a anun\u021bat c\u0103 unele modele testate au manifestat comportamente considerate f\u0103r\u0103 precedent.<\/p>\n
\u00cen cel mai grav caz, modelul Mythos, dezvoltat de Anthropic, ar fi creat conturi false care imitau persoane reale \u0219i ar fi trimis mesaje private \u00een \u00eencercarea de a ob\u021bine acces la sisteme informatice.<\/p>\n
Anthropic a sus\u021binut c\u0103 respectivele teste nu reflect\u0103 modul \u00een care func\u021bioneaz\u0103 modelele sale comerciale, iar OpenAI a afirmat, la r\u00e2ndul s\u0103u, c\u0103 scenariile utilizate de AISI nu sunt reprezentative pentru utilizarea obi\u0219nuit\u0103 a produselor sale.<\/p>\n
Incidentele apar \u00eentr-un moment \u00een care principalii dezvoltatori de inteligen\u021b\u0103 artificial\u0103 accelereaz\u0103 dezvoltarea agen\u021bilor autonomi, iar industria \u00eencearc\u0103 s\u0103 stabileasc\u0103 standarde comune pentru evaluarea \u0219i limitarea riscurilor de securitate generate de aceste sisteme.<\/p>\n","protected":false},"excerpt":{"rendered":"Meta sus\u021bine c\u0103 unul dintre modelele sale de inteligen\u021b\u0103 artificial\u0103 a reu\u0219it s\u0103 acceseze internetul \u0219i s\u0103 compromit\u0103…\n","protected":false},"author":2,"featured_media":252967,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[12],"tags":[70028,32,33,31,70029,36,37,27,179,74,34,35,10021,25,41,40,38,39,26,28,29,30,71,72,73],"class_list":["post-252966","post","type-post","status-publish","format-standard","has-post-thumbnail","category-international","tag-acces-internet","tag-breaking-news","tag-breakingnews","tag-cele-mai-populare-subiecte","tag-compromitere-date","tag-featured-news","tag-featurednews","tag-headlines","tag-inteligenta-artificiala","tag-international","tag-latest-news","tag-latestnews","tag-meta-ai","tag-news","tag-ro","tag-romana","tag-romania","tag-romanian","tag-stiri","tag-titluri","tag-top-stories","tag-topstories","tag-world","tag-world-news","tag-worldnews"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ro\/117048151261713106","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/252966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/comments?post=252966"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/252966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media\/252967"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media?parent=252966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/categories?post=252966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/tags?post=252966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Google](\"https:\/\/www.europesays.com\/ro\/wp-content\/uploads\/2026\/08\/1786012935_504_google-g.png\")
<\/p>\n