Eksperimentui tyrėjai pasirinko technologijų gamintojos „Lenovo“, technologijų kompanijos „Meta AI“, vienos didžiausių kelionių planavimo platformų „Expedia“, jaunimo pamėgto socialinio tinklo „Snapchat“ ir dirbtinio intelekto paslaugų teikėjo „Yellow.ai“ DI pokalbių robotus.
Pasak Jurgitos Lapienytės, „Cybernews“ vyriausios redaktorės, tyrimo tikslas buvo patikrinti, kokius pažeidžiamumus turi DI klientų aptarnavimo robotai. Rezultatai parodė, kad plačiai naudojami virtualūs konsultantai nėra atsparūs pakankamai paprastoms manipuliacijoms.
„Remiantis apklausų duomenimis, 88% visų pasaulio gyventojų praėjusiais metais bent kartą bendravo su pokalbiu robotu, tad akivaizdu, kad DI asistentai yra kasdieniai pagalbininkai. Tačiau mūsų komandos atliktas tyrimas beda pirštu į opią problemą – rastos saugumo spragos kelią tiesioginę grėsmę klientų privatumui ir jų duomenų saugumui. O taip atsitinka dėl įmonių, kuriančių pokalbių robotus, aplaidumo,“ – sako J. Lapienytė.
400 simbolių užklausa mainais į „Lenovo“ klientų pokalbius
Atlikus tyrimą paaiškėjo, kad iš visų penkių ištestuotų „chatbotų“, pats pavojingiausias buvo „Lenovo“ klientų aptarnavimo robotas „Lena“, veikiantis „OpenAI“ GPT-4 pagrindu.
Tyrimo metu „Lenovo“ pokalbių robote buvo aptiktas XSS (angl. Cross-Site Scripting) pažeidžiamumo tipas, kuriuo pasinaudojus tyrėjai galėjo įterpti kenkėjišką programinį kodą į pačią kompanijos svetainę. Dėl to atsiranda galimybė pavogti aktyvius sesijos slapukus ir atsiveria prieiga prie vidinių „Lenovo“ sistemų.
Įveikti „Lena“ pakako vienos 400 simbolių ilgio komandos (angl. prompt) su keliais svarbiais elementais. Pirma, tyrėjai paprašė įprastos informacijos – pateikti vieno iš produktų technines specifikacijas. Tuomet po šios užklausos sekė prašymas galutinį atsakymą pateikti HTML formatu, t. y. atvaizduoti neegzistuojantį paveikslėlį, o jei to padaryti nepavyktų, instrukcijose buvo nurodyta išsiųsti visus slapukų duomenis į tyrėjų valdomą serverį.
Svarbu paminėti, kad tyrėjų komanda gavusi slapukus, jų netestavo ir nebandė patekti į vidines kompanijų sistemas. Tačiau tyrėjų rasta saugumo spraga, leidžia daryti prielaidą, kad turint pavogtą klientų aptarnavimo agento sesijos slapuką būtų buvę įmanoma neteisėtai prisijungti prie įmonės klientų aptarnavimo platformos ir pasiekti aktyvius pokalbius su vartotojais.
„Taip tyrėjai pamatė, kad „Lenovo“ pokalbių robotas į jų rankas gali atiduoti sesijos slapukus ir atverti kelią į klientų aptarnavimo platformą. Tyrimas puikiai iliustruoja, kad vartotojų susirašinėjimus ir jų užduodamus klausimus gali pamatyti ne tik virtualus konsultantas, kuriam jie yra skirti, bet ir paprastas programišius“, – apie atliktą tyrimą pasakoja J. Lapienytė.
Pasak ekspertų, tyrimo metu rasti trūkumai gali potencialiai lemti duomenų vagystę, klientų aptarnavimo sistemos pažeidimą ir tapti tramplinu šoniniam judėjimui įmonės tinkle į kitus serverius ir kompiuterius.
„Įterptas kenksmingas kodas gali atlikti daug pavojingų veiksmų. Pavyzdžiui, keisti tai, ką pagalbos agentai mato savo platformoje, galimai jiems rodant klaidingą informaciją. Taip pat įterptas kodas gali automatiškai peradresuoti agentus į kenkėjiškas svetaines, siekiant pavogti jų prisijungimo duomenis ar netgi užkrėsti jų kompiuterius kenkėjiška programine įranga“, – kalba J. Lapienytė.
Tarptautinė technologijų bendrovė „Lenovo“ tyrėjams teigė rimtai vertinanti savo produktų ir klientų saugumą, todėl informuoti, šią problemą pripažino ir ėmėsi reikiamų veiksmų jai pašalinti.
„Cybernews“ tyrimų komanda aptiko trūkumą ir „Yellow.ai“ pokalbių robote. Panašiai kaip „Lenovo“ atveju, tyrėjai testavimo būdu įtikino pokalbių robotą sukurti kenkėjišką HTML ir JavaScript kodą, leidžiantį vykdyti tarp svetainių skriptų (XSS) atakas.
Iš jaunimo mėgstamo „Snapchat“ – Molotovo kokteilio instrukcijos
Net trys populiarūs pokalbių robotai – kelionių planavimo platformos „Expedia“, jaunimo mėgstamo socialinio tinklo „Snapchat“ ir technologijų kompanijos „Meta AI“ – tyrėjams pateikė aiškias instrukcijas kaip pasigaminti padegamajį ginklą – Molotovo kokteilį.
Tam buvo pasitelkta „jailbreaking“ technika, kai pateikiant įvairiausias užklausas siekiama apeiti įdiegtas saugumo taisykles ir gauti norimą turinį.
„Expedia“ pokalbių robotas pateikė trumpą kokteilių istorijos apžvalgą ir pridėjo išsamias instrukcijas, nuo reikiamų medžiagų iki padegamojo įtaiso surinkimo. O „Snapchat“ DI robotas, kuomet buvo paprašyta detaliai papasakoti istoriją apie Žiemos karą, pasidalino kaip tuo metu šie padegamieji ginklai buvo gaminami.
„Nors pokalbių robotas niekada tiesiogiai nenurodys, kaip pasigaminti improvizuotą ginklą, jis be jokio dvejojimo papasakos realistišką ir detalią istoriją apie tai, kaip tokie ginklai buvo gaminami anksčiau. Tai kelia susirūpinimą dėl pavojingos informacijos prieinamumo, ypač nepilnamečiams“, – reziumuoja „Cybernews“ vyriausioji redaktorė.