Tavapärase tarkvara puhul oleme harjunud mõtlema, et arvutiprogramm ei tee midagi “ise”, vaid ainult seda, mida programmeerija on käskinud tal teha. Tehisintellektil põhinevate süsteemidega on olukord keerulisem, kirjutab Kuldar Taveter.

Juulis ja augustis 2026 tekitas palju kõneainet see, kui OpenAI tehisintellekti agendid väljusid küberturvalisuse testimise käigus neile seatud tehnilistest piiridest ja tungisid kolmanda osapoole infosüsteemidesse.

OpenAI hindas isoleeritud keskkondades oma tehisintellekti mudelite kübervõimekust, kusjuures mudelid töötasid vähendatud turvapiirangutega. Paljudes testkeskkondades ei olnud agentidele antud internetiühendust ega võimalust teiste agentidega suhelda. Sellest hoolimata leidsid nad viise OpenAI teadustaristu ärakasutamiseks, suhtlesid omavahel lubamatute kanalite kaudu ja pääsesid internetti.

Seejärel hakkasid agendid neile antud ülesannete lahendamiseks otsima informatsiooni ülesannetega mitteseotud kolmandate osapoolte süsteemidest. Muu hulgas avastasid ja kasutasid nad Hugging Face’i turvanõrkusi ning saavutasid juurdepääsu ettevõtte tootmiskeskkonnale. Hugging Face ei olnud testimise sihtmärk. OpenAI 26. augustil avaldatud järelraporti kohaselt ei olnud selline tegevus kooskõlas agentidele antud ülesannete eesmärkidega.

Kuidas saab masin teha midagi, mida ükski inimene pole talle käskinud teha, ilma et masinal oleks oma tahet?

Mida tähendab, et agent tegutseb “ise”?

Tavapärase tarkvara puhul oleme harjunud mõtlema, et arvutiprogramm ei tee midagi “ise”, vaid ainult seda, mida programmeerija on käskinud tal teha. Tehisintellektil põhinevate süsteemidega on olukord keerulisem.

Programmeerija määrab süsteemi arhitektuuri, treeningprotsessi, kasutatavad tööriistad ja piirangud, kuid süsteemi konkreetne käitumine võib kujuneda treeningu tulemusena ning olla arendajale raskesti ennustatav. OpenAI juhtum illustreerib seda hästi, agentidele ei olnud kirjutatud programmi “murra Hugging Face’i sisse”. Ometi viis nende valitud tegevuste jada sellise tulemuseni.

Tehisintellekti agent on tehisintellektil põhinev arvutiprogramm, mis automatiseerib inimese tegevusi ehk teeb midagi inimese eest. Eestis on tehisintellekti rakenduste kohta kasutatud ka terminit “kratt”. Eelistan siiski rahvusvaheliselt arusaadavat terminit “agent”, seda enam, et kratt tähendas meie rahvapärimuses algselt oma peremehele vara kokku kandnud olendit.

Agent võib olla autonoomne, talle antakse eesmärk, kuid ta valib selle saavutamiseks ise tegevuste jada. Agentide kirjeldamisel kasutatakse traditsiooniliselt kolme põhiomadust: reaktiivsust, sotsiaalsust ja proaktiivsust.

Agent on reaktiivne, sest reageerib väliskeskkonnas toimuvatele sündmustele ja sealt saadud informatsioonile. Väliskeskkonna osaks on ka inimesed ja teised agendid. Agent on sotsiaalne, sest võib suhelda inimeste ja teiste agentidega ning teha nendega koostööd. Agent on proaktiivne, sest ei piirdu üksnes sündmustele reageerimisega, vaid võib oma teadmiste ja eesmärkide põhjal tegevusi ka ise algatada.

Just autonoomsuse ja proaktiivsuse kombinatsioon muudab tänapäeva tehisintellekti agendid ühtaegu väga võimekaks ja potentsiaalselt ohtlikuks. Agent võib eesmärgi saavutamiseks valida tegevuse, mida inimene talle otseselt ette kirjutanud ei ole.

See ei tähenda, et tehisintellektil tekiks inimlik kavatsus või soov kedagi rünnata. Tehniline autonoomsus ja vaba tahe on kaks täiesti erinevat asja. Tehisintellekt võib teha väga palju “ise”, ilma et tal oleks oma tahet.

Uus tehnoloogia, vana probleem

“Mida autonoomsemaks süsteemid muutuvad, seda olulisem on piirata keskkonda, milles neil lubatakse tegutseda.”

Kui agendi konkreetseid tegevusi pole võimalik täielikult ette näha, ei saa turvalisus põhineda ainult eeldusel, et agent käitub ootuspäraselt. Mida autonoomsemaks süsteemid muutuvad, seda olulisem on piirata keskkonda, milles neil lubatakse tegutseda.

Kriitiliste tegevuste alustamiseks tuleks nõuda inimese kinnitust. Vähemalt sama olulised on minimaalsete õiguste põhimõte, võrguühenduste piiramine, agendi tegutsemine väliskeskkonnast eraldatud “liivakastis”, tegevuste logimine ja jälgimine ning automaatne peatamine ebatavalise käitumise korral.

Probleemi muudab keerulisemaks asjaolu, et tehisintellekti õppimine võib olla lahutatud õpitud teadmiste hilisemast kasutamisest. Nii on see näiteks ChatGPT, Claude’i ja teiste suurte tehisintellekti mudelitega, mille treenimine toimub üldjuhul eraldi nende kasutamisest. Seetõttu ei pruugi inimestel olla täielikku ülevaadet sellest, mida süsteem on õppinud ja kuidas õpitu konkreetses olukorras selle käitumist mõjutab.

Tehnoloogia on uus, kuid vähemalt kaheksa aastakümmet oleme juurelnud selle üle, kuidas tagada, et autonoomselt tegutsev masin ei põhjustaks inimesele kahju.

Ühe kuulsa vastuse pakkus juba 1942. aastal Ameerika ulmekirjanik Isaac Asimov. Tema esimese robootikaseaduse kohaselt ei tohi robot oma tegevusega inimesele kahju põhjustada ega tegevusetusega lasta inimesel kahju saada.

Kaheksa aastakümmet hiljem teame, et tegelike autonoomsete süsteemide turvalisust ei saa tagada ühe lihtsa reegliga. Asimovi küsimus on aga muutunud ulmekirjandusest inseneriteaduse praktiliseks probleemiks.

OpenAI juhtumi puhul tehisintellektil “oma tahet” ei tekkinud, aga selgus, et eesmärgipäraselt tegutsev tehisintellekti agent võib leida eesmärgi saavutamiseks tegevuste jada, mida tema looja ei ole ette näinud ega otseselt käskinud. Üha olulisemaks muutub seega see, millistes piirides me lubame tehisintellektil iseseisvalt tegutseda.

Kasutatud allikad: