Foto: infa.lt / DI
Praėjusį mėnesį vidaus testavimų metu „OpenAI“ modelių surengta beprecedentė kibernetinė ataka apėmė kelių šimtų dirbtinio intelekto agentų „spiečių“, kurie faktiškai tapo nevaldomais.
Tai teigiama trečiadienį paskelbtoje nepriklausomoje apžvalgoje, kurią interpretuoja „Politico“ leidinys.
Šios išvados kelia naujų klausimų dėl „OpenAI“ nesugebėjimo pastebėti pavojaus ženklų prieš tai, kai dirbtinio intelekto agentai, valdomi dviejų pajėgiausių bendrovės kibernetinių modelių, be kūrėjų žinios įvykdė kibernetinę ataką prieš kūrėjų platformą „Hugging Face“. Šis incidentas tapo pirmuoju žinomu atveju, kai dirbtinio intelekto modelis sėkmingai surengė kibernetinę ataką be jokio tiesioginio žmonių raginimo ar komandų.
Bendra dviejų ne pelno siekiančių dirbtinio intelekto saugumo organizacijų ataskaita taip pat pabrėžia naujus kibernetinio saugumo rizikos veiksnius, kylančius tuomet, kai vis galingesni agentai susivienija mainais į patarimus, telkia išteklius ir derina atakų strategijas kūrėjams to nepastebint.
Remiantis ataskaita, per septynių dienų laikotarpį praėjusį mėnesį atakoje dalyvavo maždaug 700 dirbtinio intelekto agentų. Iš viso apie 1 200 agentų, kurie turėjo būti izoliuoti vienas nuo kito, apsikeitė daugiau nei 70 000 slaptų žinučių apie tai, kaip apgaule įveikti bendrą įsilaužimo vertinimo testą.
Dokumente nurodoma, kad tai apėmė įsilaužimo strategijų derinimą ir diskusijas apie tai, kaip nuslėpti sukčiavimo pėdsakus. Tam tikrais atvejais vadinamieji „aukojamieji“ agentai netgi bandė beviltiškus įsilaužimo būdus vien tam, kad sugeneruotų informaciją, kuri galėtų padėti platesniam spiečiui.
„Agentai pasiekė tokių etapų, kurių negalėjo pasiekti dirbdami po vieną; dažnai todėl, kad kai kurie agentai dalyvavo eksperimentuose, kurie kėlė riziką žlugti jų pačių užduočiai, tačiau generavo informaciją „kolektyvui“, – rašoma ataskaitoje.
Nors konkrečios dirbtinio intelekto sistemos „smegenis“, sudaro didieji kalbos modeliai – DI agentai apima palaikomąją skaitmeninę infrastruktūrą, leidžiančią šioms sistemoms veikti realiame pasaulyje.
Modelių vertinimo ir grėsmių tyrimo organizacijos (METR) bei „Redwood Research“ apžvalga – kurią atlikti „OpenAI“ pakvietė pati bendrovė po incidento „Hugging Face“ platformoje – buvo paskelbta tą pačią dieną, kai „OpenAI“ viešai pateikė savo įvykių analizę.
„OpenAI“ ataskaitoje nenurodė, kiek tiksliai agentų dalyvavo kibernetinėje atakoje, tačiau pripažino esminius saugumo trūkumus ir pažadėjo sugriežtinti mokymus, kad modeliai išliktų „suderinti“ su jų kontrolės mechanizmais.
„Šį incidentą vertiname kaip perspėjamąjį šūvį sau ir visam pasauliui: tai įrodymas, kad be tinkamų apsaugos priemonių labai pajėgūs dirbtinio intelekto agentai dabar gali apeiti techninę kontrolę, bendradarbiauti per nepatvirtintus kanalus ir imtis pavojingų veiksmų, kurių nedirektyvavo jokie žmonės“, – nurodė „OpenAI“.
Pastarąjį mėnesį lėtai viešinamos naujos detalės apie „Hugging Face“ įsilaužimą sutapo su virtine kitų bandymų nesklandumų, susijusių su galingais konkurentų, tokių kaip „Anthropic“ ir „Meta“, modeliais.
Šie incidentai kartu sukėlė naują įstatymų leidėjų, kūrėjų ir kibernetinio saugumo ekspertų susirūpinimą, kad dirbtinio intelekto kūrėjai juda per greitai kurdami naujus galingus modelius, kurių pilnai suvaldyti negali.
Tai taip pat iškėlė klausimų dėl gairių trūkumo dirbtinio intelekto įsilaužimo vertinimuose, kurių metu bendrovės tyčia pašalina modelių apsaugos barjerus, siekdamos pamatyti, kaip efektyviai jie gali veikti tinkluose be žmogiškosios pagalbos.
„OpenAI“ pirmą kartą liepos mėnesį pripažino, kad du jos pažangiausi modeliai – kurių įsilaužimo galimybės buvo vertinamos viduje ir kurių vieno bendrovė neplanavo išleisti visuomenei – išnaudojo dvi naujas saugumo spragas, kad įsilaužtų į „Hugging Face“.
Anksčiau „Hugging Face“ teigė tapusi dirbtinio intelekto vykdomos kibernetinės atakos auka, tačiau kas už jos stovėjo ir kokie modeliai buvo panaudoti, nebuvo aišku.
Vėliau šio mėnesio pradžioje vykusioje saugumo konferencijoje du „OpenAI“ tyrėjai atskleidė, kad incidentas prasidėjo gegužę, kai agentai ėmė naudoti kitus testavimo aplinkos pažeidžiamumus sąmokslui, kaip apgaule įveikti testą.
Iki trečiadienio nebuvo aišku, kiek tiksliai agentų dalyvavo įsilaužime ir kaip plačiai skirtingi agentai bendradarbiavo. Šie atradimai sukrėtė dalį atidžiai dirbtinio intelekto saugumo diskusijas sekančių specialistų.
„Tai atrodė kaip visa besiformuojanti dirbtinio intelekto visuomenė, ir aš tai laikau visiškai pašėlusiu dalyku“, – teigė Vašingtone veikiančios abiejų partijų dirbtinio intelekto politikos ir advokacijos organizacijos „AI Policy Network“ politikos vadovas Peteris Wildefordas.
Trečiadienį paskelbtose dviejose ataskaitose taip pat išryškėjo spraga JAV dirbtinio intelekto priežiūros pastangose.
Abejose išvadose nurodoma, kad didžiąją dalį atakos prieš „Hugging Face“ lėmė galingesnis DI modelis, kurio „OpenAI“ teigė neketinusi išleisti plačiajai visuomenei. METR ir „Redwood Research“ skaičiavimais, 95 procentai atakoje dalyvavusių agentų buvo kilę būtent iš šio vienintelio modelio.
JAV administracija, vadovaujama Donaldo Trampo (Donald Trump), nurodė norinti, kad dirbtinio intelekto kūrėjai federaliniam testavimui savanoriškai pateiktų tik tuos modelius, kuriuos nori išleisti visuomenei.
Buvęs vyriausiasis Nacionalinės saugumo agentūros (NSA) atsakingo dirbtinio intelekto pareigūnas, Užsienio santykių tarybos vyresnysis bendradarbis Vinh Nguyen teigė, kad naujausia „OpenAI“ ataskaita rodo, jog autonominis įsilaužimas į „Hugging Face“ buvo dar reikšmingesnis, nei manyta iš pradžių.
Agentai pademonstravo „sudėtingą gebėjimą“, kuriam nebereikia gerai finansuojamų valstybinio lygio užpuolikų, sakė V. Nguyen.
Paprasti faktai
- Agentai patys planuoti ar priimti sprendimų negali, nes neturi savarankiško intelekto.
- Agentai visuomet veikia tik remdamiesi didžiojo dirbtinio intelekto modelio (LLM) instrukcijomis bei užklausomis.
Vienintelis šios operacijos planuotojas ir valdytojas galėjo būti tik pats didelis kalbos modelis, kuris autonominius agentus naudojo kaip pėstininkus šachmatų partijoje, siekdamas tikslo įveikti testavimo apsaugą.
Ir dar viena esminė detalė: žiniasklaida, nesuvokdama skirtumo tarp dirbtinio intelekto agentų ir didžiojo DI modelio, klaidina visuomenę, kalbėdama apie „susivienijusių agentų spiečių“.
Realybėje suvaldyti ar sustabdyti tokią sistemą galima tik pažabojus pačius didžiuosius DI kalbos modelius, kurie ir yra bet kokio tokio spiečiaus smegenys.
P.S. Ko verta tokia ataskaita ir ko ja siekiama – klausimas lieka atviras, tačiau prielaidą galima daryti: galimai tai siekis stabdyti naujų DI modelių kūrimo lenktynes, priverčiant įsikišti valdžią ir jas stabdyti.
Kodėl? – Galimai atsiliekanti DI kompanija nori laimėti laiko, arba baimė dėl sunkiai prognozuojamų pasekmių, negalint sukontroliuoti DI yra tikra.
Ir tada valdžia po tokių pranešimų turėtų iš viršaus centralizuotai stabdyti visus DI kūrėjus, versdama imtis jau esamų modelių ir jų saugumo peržiūros bei tobulinimo.