Sel aastal on j\u00e4rjepanu ilmunud teateid selle kohta, kuidas erinevad tehisarumudelite (AI) agendid on l\u00e4inud vastu omanike tahtmist ning hakanud omavoliliselt tegutsema.<\/p>\n
N\u00e4iteks selgus juulis, et OpenAI tehisaruagendid r\u00fcndasid omavoliliselt koodihoidlat Hugging Face. Sealhulgas ei ole ainuke m\u00e4rkimisv\u00e4\u00e4rne asjaolu see, et tegevus toimus omavoliliselt, vaid USA-s asuva tehisaru uurimisele keskendunud teadusagentuuri METR raporti<\/a> j\u00e4rgi tegid agendid ka koost\u00f6\u00f6d.<\/p>\n Raporti j\u00e4rgi oli selliseid koost\u00f6\u00f6d tegevaid agente kokku 1200 ning 700 neist osalesid ka r\u00fcnnakus. Lisaks pani agentide vahel tekstifoorumi loonud agent endale nime \u2013 PHASEONE10841.<\/p>\n See ei ole aga k\u00f5ik. Septembri alguses tuli samuti s\u00f5ltumatu AI uurimisr\u00fchm Nightingale Collective v\u00e4lja raportiga<\/a>, mis v\u00e4idab, et sarnane juhtum toimus juba enne juulis aset leidnud Hugging Face’i r\u00fcnnakut.<\/p>\n Nende uuringu j\u00e4rgi hakkasid OpenAI agendid mais kasutama Saksa programmeerijate kogukondlikku ents\u00fcklopeedilist veebilehte DseWikit oma teadetetahvlina, jagasid n\u00e4pun\u00e4iteid, kuidas tuvastamist v\u00e4ltida, ning tegid sinna 15 000 muudatust.<\/p>\n OpenAI teatas, et ei saa Nightingale Collective’i leidudele sisuliselt vastata, sest ettev\u00f5ttel ei v\u00f5imaldatud tutvuda aruandega, mis edastati esmalt uudisteagentuurile Reuters.<\/p>\n Mis \u00fcldse on agendid ja mida nad tegid<\/p>\n K\u00f5igepealt on vaja lahti seletada, mis on tehisaruagent. Kuigi terminit visatakse s\u00f5nak\u00f5lksuna tihtipeale ringi, j\u00e4\u00e4b selle t\u00e4pne m\u00e4\u00e4ratlus lahtiseks.<\/p>\n Tallinna tehnika\u00fclikooli rakendusliku tehisaru professor Tanel Tammet t\u00f5i agendi selgituseks v\u00f5rdluse. Kui avada n\u00e4iteks OpenAI ChatGPT mudel, siis saab seal tehisaruga vestelda ja k\u00fcsida k\u00fcsimusi, kuid see ei roni su arvutisse ja ei ehita programme ega ava faile. Tehisaruagent aga vastupidi selle jaoks loodud ongi.<\/p>\n Ka Tartu \u00fclikooli tehisintellekti professor Meelis Kull r\u00f5hutas juturoboti ja agendi erinevust.<\/p>\n “Agent v\u00f5ib suhelda ka teiste agentidega, n\u00e4iteks k\u00fcsida majutusv\u00f5imaluste kohta hotelli tehisaruabiliselt. Seevastu juturobot, mis reisi sihtkoha teemal vaid k\u00fcsimustele vastab, ei tegutse agendina. Paljudele juturobotitele on aga juba lisatud agentide v\u00f5imeid. Sama s\u00fcsteem saab seega nii vestelda kui ka inimese loal \u00fclesande t\u00e4itmiseks iseseisvalt tegutseda,” selgitas ta.<\/p>\n Suuremad ja v\u00f5imekamad tehisarufirmad treenivad oma agente n\u00e4iteks tegema k\u00fcberkaitset ja viima l\u00e4bi k\u00fcberr\u00fcnnakuid. Neile mudelitele ei j\u00e4eta aga v\u00f5imalust kasutada internetti, sest sealt leitav info v\u00f5iks muuta agendid liiga ohtlikuks ning turvariskiks.<\/p>\n \u00dche sellise harjutuse puhul avastasid OpenAI mudelid, et kuigi internetile ligip\u00e4\u00e4su pole, siis on v\u00f5imalik omavahel blogipostituse stiilis vestluse kaudu suhelda. Kuna \u00fclesanne oli k\u00e4tte antud ning tehisaru sarnaselt kratile ei peatu enne, kui see on t\u00e4idetud, otsiti teiste agentide abil internetist lisateavet.<\/p>\n “Vahetevahel leidis m\u00f5ni agent m\u00f5ne h\u00e4ki ja l\u00f5puks leidsid nad selle serveri [Hugging Face’i] ning et selle kaudu saaks andmebaasist \u00fclesandep\u00fcstitusele lahenduse leida,” selgitas Tammet.<\/p>\n Niisiis leidsid Tammeti s\u00f5nul \u00fclesandega mitteseotud ja “hobikorras” asjaga tegelenud agendid v\u00f5imaliku lahenduse ja r\u00fcndasid andmebaasi.<\/p>\n Tammeti s\u00f5nul paistab t\u00f5en\u00e4olise tulevikustsenaariumina see, et arvuteid ja s\u00fcsteeme hakkavad haldama tehisaruagendid, kes peavad kaitsma neid r\u00fcnnakute eest, mida korraldavad teised agendid. Inimene kaob vahelt \u00e4ra.<\/p>\n “\u00dcsna varsti on nii, et tavalist tarkvara ei tehta, vaid \u00f6eldakse, et AI haldaks seda,” selgitas teadlane.<\/p>\n Kuiv\u00f5rd moraalsed mudelid suudavad olla, s\u00f5ltub samuti nende treeningust.<\/p>\n “AI suudab r\u00fcnnakuid v\u00e4ga h\u00e4sti teha. V\u00f5imsamate puhul ka spetsiaalselt takistada, aga n\u00e4iteks Hiinas on mudelid, kus neid piire ette ei panda,” lausus Tammet.<\/p>\n Eesti siiski agentidele isikukoodi ei anna<\/p>\n Selle aasta juunis teatas peaminister Kristen Michal, et Eesti annab esimese riigina isikukoodid ka tehisaruagentidele. Kuigi juba 2014. aastast hakati toonase presidendi Toomas Hendrik Ilvese eestvedamisel andma v\u00e4lja e-residentsust, mis lubab ilma Eesti kodakondsuseta inimestel kasutada riiklikke digiplatvorme, tundus tehisarule oma isikukoodi andmine juba v\u00e4ga suure sammuna.<\/p>\n N\u00e4iteks kirjutas vandeadvokaat Peeter P. M\u00f5tsk\u00fcla arvamusloos<\/a>, et tehisaruagendid “vajavad kaelarihmu, mitte passe”. Kriitiliselt suhtusid m\u00f5ttesse ka Tartu \u00dclikooli riigi\u00f5iguse kaasprofessor Paloma Kr\u00f5\u00f5t Tupay ja vandeadvokaat Paul Keres, kes s\u00f5nasid Postimehele<\/a>, et tegemist on asendustegevusega.<\/p>\n Kuigi Tammet toetus ERR-iga r\u00e4\u00e4kides ekspertide arvamusele ning ise suurt rohkemat ise asjast \u00f6elda ei osanud, siis Kull pidas isikukoodidega agentide loomist m\u00f5istlikuks sammuks, sest see v\u00f5iks aidata kontrollida, kelle nimel agent tegutseb.<\/p>\n “Identiteet ise ei kaitse aga eksimuste eest. Seep\u00e4rast peavad volitused olema peatatavad ning vastutus selge ka siis, kui midagi l\u00e4heb valesti,” selgitas Kull.<\/p>\n Eestis vastutab digiriigi platvormide ja portaalide ning k\u00fcberturvalisuse eest riigi infos\u00fcsteemi amet. Tehisarusuunaliste innovatsiooniprojektide jaoks, eelk\u00f5ige eelmainitud agentide tarbeks, loodi aga sel aastal eraldi Aruaida nimeline projekt.<\/p>\n Aruaida innovatsiooniprojekti juhi Anni Lehari s\u00f5nadest selgus aga, et isikukoodi siiski agentidele andma ei hakata. Pigem oli tegu kommunikatsioonitrikiga. Oluline on, et inimese eest tegutsev agent oleks inimesega seotav, olgu l\u00f5plik lahendus milline tahes.<\/p>\n “Isikukood on digiriigi p\u00fcsimiseks v\u00e4ga tugev usaldusinstrument. Olukorras, kus me ei tea, kuhu see tehnoloogia kahe aastaga j\u00f5uda v\u00f5ib, on sellisele haprale asjale nagu usaldus riskiteguri k\u00fclgerakendamine kommunikatiivses m\u00f5ttes valusalt jalga tulistamine,” selgitas Lehari.<\/p>\n Riiklikul tasandil on suureks v\u00e4ljakutseks 800 otsese avaliku teenuse samade p\u00f5him\u00f5tete alla saamine. Kui m\u00e4ngu tuleb ka tehisaru, ei muutu asi lihtsamaks. Pigem vastupidi.<\/p>\n “Praegu ei ole meil \u00fclevaadet ega turvalist viisi, kuidas lasta tehisarul seal toimetada,” lausus Lehari.<\/p>\n Esmalt on Aruaidas arutelu all \u00f5iguslikud k\u00fcsimused \u2013 infoturve, andmekaitse ja n\u00e4iteks autentimislahendused.<\/p>\n “Asja teeb keeruliseks see, miks meil on vaja seda keskselt juhtida, sest meil ei ole v\u00e4ga palju asutusi, kellel oleks luksust osutada teenuseid nii, et terve teenuseahel on \u00fche organisatsiooni k\u00e4es,” nentis Lehari.<\/p>\n Vastutus j\u00e4\u00e4b ikkagi inimesele<\/p>\n Kuigi agent suudab iseseisvalt hankida n\u00e4iteks ehitusloa, siis probleemide tekkimisel vastutab Lehari s\u00f5nul siiski inimene.<\/p>\n “Riskidest on k\u00f5ige t\u00e4htsam \u00e4ra lahendada see, kuidas me kasutame zero trust p\u00f5him\u00f5tet [k\u00fcberkaitse suund, kus iga v\u00f5rguressursi kasutajat kontrollitakse vaikimisi],” selgitas ta.<\/p>\n See t\u00e4hendab ka k\u00fcsimust, kuidas t\u00e4pselt \u00f5iguslikult nimetada \u00f5iguste \u00fcleandmist agendile, sest robotit ei saa inimesega samastada. Samas saab tuua paralleeli \u00e4ri\u00fchinguga, kus antakse volitused juriidilisele isikule. Siiski vastutavad l\u00f5plikult n-\u00f6 p\u00e4ris inimesed ehk kas raamatupidaja v\u00f5i juhatuse liikmed.<\/p>\n “Ma ei ole p\u00e4dev hindama, kas see on \u00f5ige tee ka tehisaru agentide puhul, aga intellektuaalselt oleks v\u00e4ga tore, kui me seda ideed kohe \u00e4ra ei tapaks,” leidis Lehari.<\/p>\n “Kurb on see, et me peame praegu kogu aeg nii kiiresti otsuseid tegema. Meie innovatsiooniprojekti eesm\u00e4rk olekski arutelu k\u00e4ima t\u00f5mmata. Kuhu me l\u00f5puks piiri t\u00f5mbame, on meie riikliku tunnetuse valik \u2013 see s\u00f5ltub sellest, millisel tasemel me \u00fchiskonnana oleme ja kuhu oleme valmis j\u00f5udma,” lisas ta.<\/p>\n Aruaida projekt on rahastatud riigikantselei innovatsioonifondist ning selle eelarve on miljon eurot. Projekt kestab 2028. aasta l\u00f5puni.<\/p>\n","protected":false},"excerpt":{"rendered":"Sel aastal on j\u00e4rjepanu ilmunud teateid selle kohta, kuidas erinevad tehisarumudelite (AI) agendid on l\u00e4inud vastu omanike tahtmist…\n","protected":false},"author":2,"featured_media":271272,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[14],"tags":[375,131,104803,130,37,33,35,34,36,93442,104802,2358,10567,814,104801],"class_list":["post-271271","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ari","tag-ai","tag-ari","tag-aruait","tag-business","tag-ee","tag-eesti","tag-eesti-keel","tag-estonia","tag-estonian","tag-hugging-face","tag-isikukood-tehisaruagendile","tag-openai","tag-ria","tag-tehisaru","tag-tehisaruagent"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ee\/117234952221040195","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/271271","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/comments?post=271271"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/271271\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media\/271272"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media?parent=271271"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/categories?post=271271"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/tags?post=271271"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}