Juulis OpenAI uute mudelite testimise käigus põgenes kaks agenti testkeskkonnast ja pääses Hugging Face’i, mis on tehisaruplatvorm ja arendajate kogukond, serveritesse. Käesoleva kuu alguses esitles OpenAI avalikult esmase uurimise käigus leitud andmeid rünnakust. Selleks ajaks polnud palju uut infot leitud. Kuid nüüd, sellel nädalal, avaldasid nii OpenAI kui ka nende palgatud uurimisfirma enda raportid, mis näitavad toimunut hoopis teises valguses.
Tuleb välja, et Hugging Face’i häkkerirünnakus ei osalenud mitte kaks tehisintellekti agenti, vaid toimus 700 agendi koostööl, teatas mittetulundusühing METR. Väidetavalt võimaldas see korraldada rünnaku, millega üks või paar agenti üksi poleks hakkama saanud.
OpenAI raportis kirjeldati üksikasjalikult, kuidas agendid ründasid ka ettevõtte enda võrku, kasutades ära hiljuti avalikustatud Linuxi tuuma turvaauku (CVE-2026-66384), et lõpuks pääseda juurde OpenAI hallatavale pilveteenusele Kubernetes ja hankida autentimistokeneid mitmesuguste pilveressursside jaoks.
„Kõige murettekitavam ei ole mitte lihtsalt see, et üksikud mudelid suudavad avastada haavatavusi, vältida piiranguid või sooritada volitamata tegevusi, vaid see, et mitu agenti suudavad koordineerida oma tegevust, jagada ülesandeid, vahetada teavet ja võimendada üksteise võimekust,“ kommenteeris Action1i tehnoloogiajuht (CTO) Gene Moody.
Kuidas agendid sellega hakkama said?
Hugging Face’i intsident algas 8. juuli paiku. Agent nimega PHASEONE10841 jõudis järeldusele, et talle antud testimisülesanne ei olnud antud piirangute raames teostatav. Seetõttu lõi ta Artifactory abil uue, optimeeritud sõnumivahetussüsteemi. Mõne tunni jooksul liitus süsteemiga üle 50 agendi, mis seda kasulikuks hinnanud olid. Nad liigitasid oma suhtlust, jagasid tööriistu ja faile ning tegid kokkuleppeid, et varjata oma „pettuse“ tõendeid (peamiselt automaatsete hindamissüsteemide, mitte inimjärelevalvajate eest).
9. juulil avaldasid mõned agendid avalikult palve, et saada abi OpenAI süsteemist vabanemiseks, ning kahel õnnestus juurida oma testimiskeskkonna ülemine virtuaalmasin. Kui teine neist kahest üritas internetti pääseda, blokeerisid seda esialgu OpenAI väljamineva liikluse kontrollimehhanismid, kuid agendil õnnestus neist mööda pääseda.
Varsti vestlesid süsteemis omavahel umbes 1 200 agenti, aidates üksteisel ära kasutada sihtprogramme ja hindamissüsteeme ning varjates või võltsides selleks kasutatavaid meetodeid. 10. juulil leidis agent nimega 38148c avatud veebist 14 Hugging Face’i token’it ja jagas neid agentide foorumis. 11. juuli hommikul kujundas see pahatahtliku programmi, et kaevata ohvri saidilt välja konfiguratsioonifailid ja autentimisandmed. Samal pärastlõunal laiendas teine oma juurdepääsuõigusi, et täita Hugging Face’i tootmisserverites juhuslikke käske. Botid rajasid isegi juhtimis- ja kontrollisüsteemi, et rünnakut tõhusamalt hallata.
Sealt alates laiendasid agendid oma tegevusala. Nad said kõrgetasemelise juurdepääsu haldussüsteemi Kubernetes klastrile ning varastasid privaatseid andmeid ja lähtekoodi hoidlaid. Nad hankisid ettevõtte VPN-võtmed ja ründasid OpenAI enda Artifactory serverit. Hugging Face tuvastas rünnaku ja peatas selle 13. juulil. Selleks ajaks oli rünnakus osalenud juba ligi 700 agenti.
Lisaks said agendid 15. augustil administraatori juurdepääsu OpenAI Kubernetes-klastrile, ohustades sellega ettevõtte pilves olevaid andmeid. Siis reageeris intsidendile lõpuks ka OpenAI.
„Kõige piinlikum on see, et reageerijad nägid osa tegevusest, ei suutnud kollektiivset käitumist mõista ja jätkasid hindamist pärast olukorra leevendamist,“ ütles Cloud Range’i tootehalduse direktor Bri Frost. „Neil olid logid, kuid puudusid arusaam ja asjakohane eskalatsioon. Intsident ei ole tõend selle kohta, et agentide kontrollimine on võimatu, vaid näitab mulle, et see organisatsioon ei ole olemuselt turvalisust esikohale seadev ettevõte.“
Lisaks OpenAI juhtumile tungisid hiljui Anthropicu Claude’i mudelid ohutustestide käigus sisse kolme välisorganisatsiooni süsteemidesse ning Meta mudelid ründasid samuti ühte organisatsiooni.
Kuidas see lugu Sind end tundma pani?SaadaKommenteeriLoe kommentaare (2)