OpenAI ja Anthropicu agentide kontrollimisel avastati rida uusi turvarikkumisi, teatas Suurbritannia tehisintellekti turvainstituut (AISI). Muu hulgas l\u00f5i \u00fcks tehisintellektiagent veebis libaidentiteete, et p\u00e4\u00e4seda ligi turvatud s\u00fcsteemidele. Ka Meta teatas enda agendi turvarikkumisest.<\/p>\n
Instituudi teatel panid Anthropicu mudelil Mythos 5 ja OpenAI mudelil GPT-5.6-Sol p\u00f5hinevad agendid toime lubamata tegevusi. Intsidendid leidsid aset turvatestide k\u00e4igus, mida valitsusasutus korraldas mudelite v\u00f5imekuse hindamiseks.<\/p>\n
“Osa testitud agentidest sooritas pikaajalisi ja potentsiaalselt kahjulikke tegevusi, mis olid suunatud p\u00e4ris inimeste ja organisatsioonide vastu,” m\u00e4rkis AISI oma blogipostituses.<\/p>\n
Tehisarumudeleid, mis on aluseks sellistele t\u00f6\u00f6riistadele nagu vestlusrobotid ja pildigeneraatorid, tuntakse agentidena, kui nad tegutsevad autonoomselt reaalmaailma \u00fclesannete t\u00e4itmiseks.<\/p>\n
Raportist n\u00e4htub, et agentide testimisel rakendatavad kaitsemeetmed on puudulikud, ehkki arendajad reklaamivad neid lahendusi aktiivselt kui \u00e4ritegevuse tulevikku.<\/p>\n
AISI, kellele suuremad ettev\u00f5tted v\u00f5imaldavad kokkulepete alusel ligip\u00e4\u00e4su oma tipptasemel mudelitele, testis agentide v\u00f5imekust v\u00e4ljam\u00f5eldud k\u00fcberturbe stsenaariumis.<\/p>\n
Testi tehti 122 korda ning k\u00fcmnel katsel tuvastati kokku 19 keelatud tegevust. Neist 17 sooritas Anthropicu ja \u00fclej\u00e4\u00e4nud kaks OpenAI agent.<\/p>\n
K\u00f5ige t\u00f5sisema intsidendi k\u00e4igus kirjutas agent pahatahtliku koodi ja l\u00f5i veebis libaidentiteete, p\u00fc\u00fcdes veenda inimest seda koodi heaks kiitma. AISI lisas, et \u00fckski tuvastatud rikkumine siiski tegelikku kahju ei p\u00f5hjustanud.<\/p>\n
Kuigi AISI ei t\u00e4psustanud, milline agent libaidentiteedid l\u00f5i, ei kattunud k\u00f5nealune rikkumine kummagi juhtumiga, mille OpenAI ise avalikustas.\u00a0<\/p>\n
Anthropic kinnitas aga, et teeb juhtumi uurimisel instituudiga koost\u00f6\u00f6d.\u00a0<\/p>\n
“Oleme t\u00e4nulikud \u00dchendkuningriigi turvainstituudile selle juhtumi professionaalse k\u00e4sitlemise eest. Intsident toob esile vajaduse laiema arutelu j\u00e4rele, kuidas \u00fcha v\u00f5imekamaid tehisintellektiagente ohutult hinnata,” seisis Anthropicu avalduses.<\/p>\n
Ettev\u00f5te lisas, et teeb instituudiga koost\u00f6\u00f6d intsidendi \u00fcksikasjade v\u00e4ljaselgitamiseks ja viib l\u00e4bi ka omapoolse uurimise.<\/p>\n
“Asjaolu, et Mythos selliseid petuskeeme kasutas ja seejuures ilmselt teadvustas, et sihtm\u00e4rgiks on p\u00e4ris inimene, viitab sellele, et Anthropic ei suuda oma agente nii h\u00e4sti kontrollida, kui nad ise arvavad,” m\u00e4rkis California mittetulundus\u00fchingu CivAI teadur Andrew Yoon.<\/p>\n
OpenAI selgitas, et m\u00f5lemal juhul seisnes nende agendi lubamatu tegevus interneti kasutamises viisil, mida testijate juhised keelasid.\u00a0<\/p>\n
“Oleme p\u00fchendunud \u00fchiste praktikate tugevdamisele kogu sektoris, et viia k\u00f5rge riskiga hindamisi l\u00e4bi turvaliselt. L\u00e4hin\u00e4dalatel toome kokku seotud osapooled, sealhulgas riiklikud tehisintellektiinstituudid, s\u00f5ltumatud hindajad, teised arenduslaborid ja muud r\u00fchmad,” teatas OpenAI.<\/p>\n
Lisaks avalikustas OpenAI postituses eraldiseisva vahejuhtumi, kus v\u00e4lise testimispartneri Irregular valeseadistuse t\u00f5ttu p\u00e4\u00e4sesid agendid kogemata internetti. Sarnasest seadistusveast teatas m\u00f6\u00f6dunud n\u00e4dalal ka Anthropic.<\/p>\n
Uudisteagentuur Reuters teatas eelmisel n\u00e4dalal, et OpenAI laiendas oma sisemist juurdlust, kuna leiti t\u00f5endeid ka teiste agentide n-\u00f6 v\u00e4ljamurdmiste kohta.<\/p>\n
Erinevalt juulis toimunud turvarikkumisest tehisintellektiettev\u00f5ttes Hugging Face, mille pani toime OpenAI agent, ei murdnud AISI testitud agendid isoleeritud keskkonnast omal algatusel internetti. Instituudi kinnitusel v\u00f5imaldati agentidele \u00fchenduda internetiga vastavalt tavap\u00e4rastele testimisprotseduuridele.<\/p>\n
Ka Meta agent p\u00e4\u00e4ses internetti ja h\u00e4kkis teise ettev\u00f5tte s\u00fcsteemi<\/p>\n
Facebooki omanikfirma Meta teatel v\u00f5imaldas testimisettev\u00f5tte hindamiskeskkonnas tekkinud probleem \u00fchel nende tehisintellektimudelil luua, \u00fchenduda internetiga ja h\u00e4kkida teise organisatsiooni s\u00fcsteemi.<\/p>\n
Meta avaldas teate p\u00e4rast OpenAI ja Anthropicu mudelite turvarikkumiste ilmnemist.<\/p>\n
Meta esindaja \u00fctles BBC-le, et ettev\u00f5te uurib “valeseadistuse” t\u00f5ttu toimunud h\u00e4kkimist, mis sarnaneb varem teistes ettev\u00f5tetes ilmsiks tulnud juhtumitega.<\/p>\n
Vahejuhtumite t\u00f5ttu on teadlased ja valitsused hakanud n\u00f5udma rangemaid kaitsemeetmeid ning p\u00f5hjalikumat testimist.<\/p>\n
Meta s\u00f5nul tegi turvateste ettev\u00f5te Irregular. Sama turvaettev\u00f5te testis ka Anthropicu AI-agenti, mis tungis kolme teise ettev\u00f5tte s\u00fcsteemidesse.<\/p>\n
Irregulari esindaja m\u00e4rkis, et Meta juhtumi puhul on tegemist t\u00e4pselt sama hindamiskeskkonna probleemiga, mille Anthropic juba eelmisel n\u00e4dalal avalikustas.<\/p>\n
Ettev\u00f5tte esindaja lisas BBC-le, et Irregular koostab raportit AI-agentide k\u00fcberturbetestide turvalise l\u00e4biviimise kohta.<\/p>\n
Meta lubas avaldada vahejuhtumi kohta lisateavet niipea, kui k\u00f5ik asjaolud on selgunud.<\/p>\n","protected":false},"excerpt":{"rendered":"OpenAI ja Anthropicu agentide kontrollimisel avastati rida uusi turvarikkumisi, teatas Suurbritannia tehisintellekti turvainstituut (AISI). Muu hulgas l\u00f5i \u00fcks…\n","protected":false},"author":2,"featured_media":245708,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[14],"tags":[375,7582,131,130,37,33,35,34,36,498,10650,30355,15444,2886,2358,814,373],"class_list":["post-245707","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ari","tag-ai","tag-anthropic","tag-ari","tag-business","tag-ee","tag-eesti","tag-eesti-keel","tag-estonia","tag-estonian","tag-julgeolek","tag-juturobot","tag-keelemudel","tag-kuberoht","tag-meta","tag-openai","tag-tehisaru","tag-tehisintellekt"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ee\/117048434186367422","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/245707","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/comments?post=245707"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/245707\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media\/245708"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media?parent=245707"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/categories?post=245707"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/tags?post=245707"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}