OpenAI ja Anthropicu agentide kontrollimisel avastati rida uusi turvarikkumisi, teatas Suurbritannia tehisintellekti turvainstituut (AISI). Muu hulgas lõi üks tehisintellektiagent veebis libaidentiteete, et pääseda ligi turvatud süsteemidele. Ka Meta teatas enda agendi turvarikkumisest.
Instituudi teatel panid Anthropicu mudelil Mythos 5 ja OpenAI mudelil GPT-5.6-Sol põhinevad agendid toime lubamata tegevusi. Intsidendid leidsid aset turvatestide käigus, mida valitsusasutus korraldas mudelite võimekuse hindamiseks.
“Osa testitud agentidest sooritas pikaajalisi ja potentsiaalselt kahjulikke tegevusi, mis olid suunatud päris inimeste ja organisatsioonide vastu,” märkis AISI oma blogipostituses.
Tehisarumudeleid, mis on aluseks sellistele tööriistadele nagu vestlusrobotid ja pildigeneraatorid, tuntakse agentidena, kui nad tegutsevad autonoomselt reaalmaailma ülesannete täitmiseks.
Raportist nähtub, et agentide testimisel rakendatavad kaitsemeetmed on puudulikud, ehkki arendajad reklaamivad neid lahendusi aktiivselt kui äritegevuse tulevikku.
AISI, kellele suuremad ettevõtted võimaldavad kokkulepete alusel ligipääsu oma tipptasemel mudelitele, testis agentide võimekust väljamõeldud küberturbe stsenaariumis.
Testi tehti 122 korda ning kümnel katsel tuvastati kokku 19 keelatud tegevust. Neist 17 sooritas Anthropicu ja ülejäänud kaks OpenAI agent.
Kõige tõsisema intsidendi käigus kirjutas agent pahatahtliku koodi ja lõi veebis libaidentiteete, püüdes veenda inimest seda koodi heaks kiitma. AISI lisas, et ükski tuvastatud rikkumine siiski tegelikku kahju ei põhjustanud.
Kuigi AISI ei täpsustanud, milline agent libaidentiteedid lõi, ei kattunud kõnealune rikkumine kummagi juhtumiga, mille OpenAI ise avalikustas.
Anthropic kinnitas aga, et teeb juhtumi uurimisel instituudiga koostööd.
“Oleme tänulikud Ühendkuningriigi turvainstituudile selle juhtumi professionaalse käsitlemise eest. Intsident toob esile vajaduse laiema arutelu järele, kuidas üha võimekamaid tehisintellektiagente ohutult hinnata,” seisis Anthropicu avalduses.
Ettevõte lisas, et teeb instituudiga koostööd intsidendi üksikasjade väljaselgitamiseks ja viib läbi ka omapoolse uurimise.
“Asjaolu, et Mythos selliseid petuskeeme kasutas ja seejuures ilmselt teadvustas, et sihtmärgiks on päris inimene, viitab sellele, et Anthropic ei suuda oma agente nii hästi kontrollida, kui nad ise arvavad,” märkis California mittetulundusühingu CivAI teadur Andrew Yoon.
OpenAI selgitas, et mõlemal juhul seisnes nende agendi lubamatu tegevus interneti kasutamises viisil, mida testijate juhised keelasid.
“Oleme pühendunud ühiste praktikate tugevdamisele kogu sektoris, et viia kõrge riskiga hindamisi läbi turvaliselt. Lähinädalatel toome kokku seotud osapooled, sealhulgas riiklikud tehisintellektiinstituudid, sõltumatud hindajad, teised arenduslaborid ja muud rühmad,” teatas OpenAI.
Lisaks avalikustas OpenAI postituses eraldiseisva vahejuhtumi, kus välise testimispartneri Irregular valeseadistuse tõttu pääsesid agendid kogemata internetti. Sarnasest seadistusveast teatas möödunud nädalal ka Anthropic.
Uudisteagentuur Reuters teatas eelmisel nädalal, et OpenAI laiendas oma sisemist juurdlust, kuna leiti tõendeid ka teiste agentide n-ö väljamurdmiste kohta.
Erinevalt juulis toimunud turvarikkumisest tehisintellektiettevõttes Hugging Face, mille pani toime OpenAI agent, ei murdnud AISI testitud agendid isoleeritud keskkonnast omal algatusel internetti. Instituudi kinnitusel võimaldati agentidele ühenduda internetiga vastavalt tavapärastele testimisprotseduuridele.
Ka Meta agent pääses internetti ja häkkis teise ettevõtte süsteemi
Facebooki omanikfirma Meta teatel võimaldas testimisettevõtte hindamiskeskkonnas tekkinud probleem ühel nende tehisintellektimudelil luua, ühenduda internetiga ja häkkida teise organisatsiooni süsteemi.
Meta avaldas teate pärast OpenAI ja Anthropicu mudelite turvarikkumiste ilmnemist.
Meta esindaja ütles BBC-le, et ettevõte uurib “valeseadistuse” tõttu toimunud häkkimist, mis sarnaneb varem teistes ettevõtetes ilmsiks tulnud juhtumitega.
Vahejuhtumite tõttu on teadlased ja valitsused hakanud nõudma rangemaid kaitsemeetmeid ning põhjalikumat testimist.
Meta sõnul tegi turvateste ettevõte Irregular. Sama turvaettevõte testis ka Anthropicu AI-agenti, mis tungis kolme teise ettevõtte süsteemidesse.
Irregulari esindaja märkis, et Meta juhtumi puhul on tegemist täpselt sama hindamiskeskkonna probleemiga, mille Anthropic juba eelmisel nädalal avalikustas.
Ettevõtte esindaja lisas BBC-le, et Irregular koostab raportit AI-agentide küberturbetestide turvalise läbiviimise kohta.
Meta lubas avaldada vahejuhtumi kohta lisateavet niipea, kui kõik asjaolud on selgunud.