Sel aastal on järjepanu ilmunud teateid selle kohta, kuidas erinevad tehisarumudelite (AI) agendid on läinud vastu omanike tahtmist ning hakanud omavoliliselt tegutsema.
Näiteks selgus juulis, et OpenAI tehisaruagendid ründasid omavoliliselt koodihoidlat Hugging Face. Sealhulgas ei ole ainuke märkimisväärne asjaolu see, et tegevus toimus omavoliliselt, vaid USA-s asuva tehisaru uurimisele keskendunud teadusagentuuri METR raporti järgi tegid agendid ka koostööd.
Raporti järgi oli selliseid koostööd tegevaid agente kokku 1200 ning 700 neist osalesid ka rünnakus. Lisaks pani agentide vahel tekstifoorumi loonud agent endale nime – PHASEONE10841.
See ei ole aga kõik. Septembri alguses tuli samuti sõltumatu AI uurimisrühm Nightingale Collective välja raportiga, mis väidab, et sarnane juhtum toimus juba enne juulis aset leidnud Hugging Face’i rünnakut.
Nende uuringu järgi hakkasid OpenAI agendid mais kasutama Saksa programmeerijate kogukondlikku entsüklopeedilist veebilehte DseWikit oma teadetetahvlina, jagasid näpunäiteid, kuidas tuvastamist vältida, ning tegid sinna 15 000 muudatust.
OpenAI teatas, et ei saa Nightingale Collective’i leidudele sisuliselt vastata, sest ettevõttel ei võimaldatud tutvuda aruandega, mis edastati esmalt uudisteagentuurile Reuters.
Mis üldse on agendid ja mida nad tegid
Kõigepealt on vaja lahti seletada, mis on tehisaruagent. Kuigi terminit visatakse sõnakõlksuna tihtipeale ringi, jääb selle täpne määratlus lahtiseks.
Tallinna tehnikaülikooli rakendusliku tehisaru professor Tanel Tammet tõi agendi selgituseks võrdluse. Kui avada näiteks OpenAI ChatGPT mudel, siis saab seal tehisaruga vestelda ja küsida küsimusi, kuid see ei roni su arvutisse ja ei ehita programme ega ava faile. Tehisaruagent aga vastupidi selle jaoks loodud ongi.
Ka Tartu ülikooli tehisintellekti professor Meelis Kull rõhutas juturoboti ja agendi erinevust.
“Agent võib suhelda ka teiste agentidega, näiteks küsida majutusvõimaluste kohta hotelli tehisaruabiliselt. Seevastu juturobot, mis reisi sihtkoha teemal vaid küsimustele vastab, ei tegutse agendina. Paljudele juturobotitele on aga juba lisatud agentide võimeid. Sama süsteem saab seega nii vestelda kui ka inimese loal ülesande täitmiseks iseseisvalt tegutseda,” selgitas ta.
Suuremad ja võimekamad tehisarufirmad treenivad oma agente näiteks tegema küberkaitset ja viima läbi küberrünnakuid. Neile mudelitele ei jäeta aga võimalust kasutada internetti, sest sealt leitav info võiks muuta agendid liiga ohtlikuks ning turvariskiks.
Ühe sellise harjutuse puhul avastasid OpenAI mudelid, et kuigi internetile ligipääsu pole, siis on võimalik omavahel blogipostituse stiilis vestluse kaudu suhelda. Kuna ülesanne oli kätte antud ning tehisaru sarnaselt kratile ei peatu enne, kui see on täidetud, otsiti teiste agentide abil internetist lisateavet.
“Vahetevahel leidis mõni agent mõne häki ja lõpuks leidsid nad selle serveri [Hugging Face’i] ning et selle kaudu saaks andmebaasist ülesandepüstitusele lahenduse leida,” selgitas Tammet.
Niisiis leidsid Tammeti sõnul ülesandega mitteseotud ja “hobikorras” asjaga tegelenud agendid võimaliku lahenduse ja ründasid andmebaasi.
Tammeti sõnul paistab tõenäolise tulevikustsenaariumina see, et arvuteid ja süsteeme hakkavad haldama tehisaruagendid, kes peavad kaitsma neid rünnakute eest, mida korraldavad teised agendid. Inimene kaob vahelt ära.
“Üsna varsti on nii, et tavalist tarkvara ei tehta, vaid öeldakse, et AI haldaks seda,” selgitas teadlane.
Kuivõrd moraalsed mudelid suudavad olla, sõltub samuti nende treeningust.
“AI suudab rünnakuid väga hästi teha. Võimsamate puhul ka spetsiaalselt takistada, aga näiteks Hiinas on mudelid, kus neid piire ette ei panda,” lausus Tammet.
Eesti siiski agentidele isikukoodi ei anna
Selle aasta juunis teatas peaminister Kristen Michal, et Eesti annab esimese riigina isikukoodid ka tehisaruagentidele. Kuigi juba 2014. aastast hakati toonase presidendi Toomas Hendrik Ilvese eestvedamisel andma välja e-residentsust, mis lubab ilma Eesti kodakondsuseta inimestel kasutada riiklikke digiplatvorme, tundus tehisarule oma isikukoodi andmine juba väga suure sammuna.
Näiteks kirjutas vandeadvokaat Peeter P. Mõtsküla arvamusloos, et tehisaruagendid “vajavad kaelarihmu, mitte passe”. Kriitiliselt suhtusid mõttesse ka Tartu Ülikooli riigiõiguse kaasprofessor Paloma Krõõt Tupay ja vandeadvokaat Paul Keres, kes sõnasid Postimehele, et tegemist on asendustegevusega.
Kuigi Tammet toetus ERR-iga rääkides ekspertide arvamusele ning ise suurt rohkemat ise asjast öelda ei osanud, siis Kull pidas isikukoodidega agentide loomist mõistlikuks sammuks, sest see võiks aidata kontrollida, kelle nimel agent tegutseb.
“Identiteet ise ei kaitse aga eksimuste eest. Seepärast peavad volitused olema peatatavad ning vastutus selge ka siis, kui midagi läheb valesti,” selgitas Kull.
Eestis vastutab digiriigi platvormide ja portaalide ning küberturvalisuse eest riigi infosüsteemi amet. Tehisarusuunaliste innovatsiooniprojektide jaoks, eelkõige eelmainitud agentide tarbeks, loodi aga sel aastal eraldi Aruaida nimeline projekt.
Aruaida innovatsiooniprojekti juhi Anni Lehari sõnadest selgus aga, et isikukoodi siiski agentidele andma ei hakata. Pigem oli tegu kommunikatsioonitrikiga. Oluline on, et inimese eest tegutsev agent oleks inimesega seotav, olgu lõplik lahendus milline tahes.
“Isikukood on digiriigi püsimiseks väga tugev usaldusinstrument. Olukorras, kus me ei tea, kuhu see tehnoloogia kahe aastaga jõuda võib, on sellisele haprale asjale nagu usaldus riskiteguri külgerakendamine kommunikatiivses mõttes valusalt jalga tulistamine,” selgitas Lehari.
Riiklikul tasandil on suureks väljakutseks 800 otsese avaliku teenuse samade põhimõtete alla saamine. Kui mängu tuleb ka tehisaru, ei muutu asi lihtsamaks. Pigem vastupidi.
“Praegu ei ole meil ülevaadet ega turvalist viisi, kuidas lasta tehisarul seal toimetada,” lausus Lehari.
Esmalt on Aruaidas arutelu all õiguslikud küsimused – infoturve, andmekaitse ja näiteks autentimislahendused.
“Asja teeb keeruliseks see, miks meil on vaja seda keskselt juhtida, sest meil ei ole väga palju asutusi, kellel oleks luksust osutada teenuseid nii, et terve teenuseahel on ühe organisatsiooni käes,” nentis Lehari.
Vastutus jääb ikkagi inimesele
Kuigi agent suudab iseseisvalt hankida näiteks ehitusloa, siis probleemide tekkimisel vastutab Lehari sõnul siiski inimene.
“Riskidest on kõige tähtsam ära lahendada see, kuidas me kasutame zero trust põhimõtet [küberkaitse suund, kus iga võrguressursi kasutajat kontrollitakse vaikimisi],” selgitas ta.
See tähendab ka küsimust, kuidas täpselt õiguslikult nimetada õiguste üleandmist agendile, sest robotit ei saa inimesega samastada. Samas saab tuua paralleeli äriühinguga, kus antakse volitused juriidilisele isikule. Siiski vastutavad lõplikult n-ö päris inimesed ehk kas raamatupidaja või juhatuse liikmed.
“Ma ei ole pädev hindama, kas see on õige tee ka tehisaru agentide puhul, aga intellektuaalselt oleks väga tore, kui me seda ideed kohe ära ei tapaks,” leidis Lehari.
“Kurb on see, et me peame praegu kogu aeg nii kiiresti otsuseid tegema. Meie innovatsiooniprojekti eesmärk olekski arutelu käima tõmmata. Kuhu me lõpuks piiri tõmbame, on meie riikliku tunnetuse valik – see sõltub sellest, millisel tasemel me ühiskonnana oleme ja kuhu oleme valmis jõudma,” lisas ta.
Aruaida projekt on rahastatud riigikantselei innovatsioonifondist ning selle eelarve on miljon eurot. Projekt kestab 2028. aasta lõpuni.