{"id":272741,"date":"2026-09-10T07:30:07","date_gmt":"2026-09-10T07:30:07","guid":{"rendered":"https:\/\/www.europesays.com\/ee\/272741\/"},"modified":"2026-09-10T07:30:07","modified_gmt":"2026-09-10T07:30:07","slug":"kuldar-taveter-kui-ti-agent-teeb-midagi-mida-inimene-pole-kaskinud-arvamus","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ee\/272741\/","title":{"rendered":"Kuldar Taveter: kui TI-agent teeb midagi, mida inimene pole k\u00e4skinud | Arvamus"},"content":{"rendered":"<p>Tavap\u00e4rase tarkvara puhul oleme harjunud m\u00f5tlema, et arvutiprogramm ei tee midagi &#8220;ise&#8221;, vaid ainult seda, mida programmeerija on k\u00e4skinud tal teha. Tehisintellektil p\u00f5hinevate s\u00fcsteemidega on olukord keerulisem, kirjutab Kuldar Taveter.<\/p>\n<p>Juulis ja augustis 2026 tekitas palju k\u00f5neainet see, kui OpenAI tehisintellekti agendid v\u00e4ljusid k\u00fcberturvalisuse testimise k\u00e4igus neile seatud tehnilistest piiridest ja tungisid kolmanda osapoole infos\u00fcsteemidesse.<\/p>\n<p>OpenAI hindas isoleeritud keskkondades oma tehisintellekti mudelite k\u00fcberv\u00f5imekust, kusjuures mudelid t\u00f6\u00f6tasid v\u00e4hendatud turvapiirangutega. Paljudes testkeskkondades ei olnud agentidele antud interneti\u00fchendust ega v\u00f5imalust teiste agentidega suhelda. Sellest hoolimata leidsid nad viise OpenAI teadustaristu \u00e4rakasutamiseks, suhtlesid omavahel lubamatute kanalite kaudu ja p\u00e4\u00e4sesid internetti.<\/p>\n<p>Seej\u00e4rel hakkasid agendid neile antud \u00fclesannete lahendamiseks otsima informatsiooni \u00fclesannetega mitteseotud kolmandate osapoolte s\u00fcsteemidest. Muu hulgas avastasid ja kasutasid nad Hugging Face&#8217;i turvan\u00f5rkusi ning saavutasid juurdep\u00e4\u00e4su ettev\u00f5tte tootmiskeskkonnale. Hugging Face ei olnud testimise sihtm\u00e4rk. OpenAI 26. augustil avaldatud j\u00e4relraporti kohaselt ei olnud selline tegevus koosk\u00f5las agentidele antud \u00fclesannete eesm\u00e4rkidega.<\/p>\n<p>Kuidas saab masin teha midagi, mida \u00fckski inimene pole talle k\u00e4skinud teha, ilma et masinal oleks oma tahet?<\/p>\n<p>Mida t\u00e4hendab, et agent tegutseb &#8220;ise&#8221;?<\/p>\n<p>Tavap\u00e4rase tarkvara puhul oleme harjunud m\u00f5tlema, et arvutiprogramm ei tee midagi &#8220;ise&#8221;, vaid ainult seda, mida programmeerija on k\u00e4skinud tal teha. Tehisintellektil p\u00f5hinevate s\u00fcsteemidega on olukord keerulisem.<\/p>\n<p>Programmeerija m\u00e4\u00e4rab s\u00fcsteemi arhitektuuri, treeningprotsessi, kasutatavad t\u00f6\u00f6riistad ja piirangud, kuid s\u00fcsteemi konkreetne k\u00e4itumine v\u00f5ib kujuneda treeningu tulemusena ning olla arendajale raskesti ennustatav. OpenAI juhtum illustreerib seda h\u00e4sti, agentidele ei olnud kirjutatud programmi &#8220;murra Hugging Face&#8217;i sisse&#8221;. Ometi viis nende valitud tegevuste jada sellise tulemuseni.<\/p>\n<p>Tehisintellekti agent on tehisintellektil p\u00f5hinev arvutiprogramm, mis automatiseerib inimese tegevusi ehk teeb midagi inimese eest. Eestis on tehisintellekti rakenduste kohta kasutatud ka terminit &#8220;kratt&#8221;. Eelistan siiski rahvusvaheliselt arusaadavat terminit &#8220;agent&#8221;, seda enam, et kratt t\u00e4hendas meie rahvap\u00e4rimuses algselt oma peremehele vara kokku kandnud olendit.<\/p>\n<p>Agent v\u00f5ib olla autonoomne, talle antakse eesm\u00e4rk, kuid ta valib selle saavutamiseks ise tegevuste jada. Agentide kirjeldamisel kasutatakse traditsiooniliselt kolme p\u00f5hiomadust: reaktiivsust, sotsiaalsust ja proaktiivsust.<\/p>\n<p>Agent on reaktiivne, sest reageerib v\u00e4liskeskkonnas toimuvatele s\u00fcndmustele ja sealt saadud informatsioonile. V\u00e4liskeskkonna osaks on ka inimesed ja teised agendid. Agent on sotsiaalne, sest v\u00f5ib suhelda inimeste ja teiste agentidega ning teha nendega koost\u00f6\u00f6d. Agent on proaktiivne, sest ei piirdu \u00fcksnes s\u00fcndmustele reageerimisega, vaid v\u00f5ib oma teadmiste ja eesm\u00e4rkide p\u00f5hjal tegevusi ka ise algatada.<\/p>\n<p>Just autonoomsuse ja proaktiivsuse kombinatsioon muudab t\u00e4nap\u00e4eva tehisintellekti agendid \u00fchtaegu v\u00e4ga v\u00f5imekaks ja potentsiaalselt ohtlikuks. Agent v\u00f5ib eesm\u00e4rgi saavutamiseks valida tegevuse, mida inimene talle otseselt ette kirjutanud ei ole.<\/p>\n<p>See ei t\u00e4henda, et tehisintellektil tekiks inimlik kavatsus v\u00f5i soov kedagi r\u00fcnnata. Tehniline autonoomsus ja vaba tahe on kaks t\u00e4iesti erinevat asja. Tehisintellekt v\u00f5ib teha v\u00e4ga palju &#8220;ise&#8221;, ilma et tal oleks oma tahet.<\/p>\n<p>Uus tehnoloogia, vana probleem<\/p>\n<p>&#8220;Mida autonoomsemaks s\u00fcsteemid muutuvad, seda olulisem on piirata keskkonda, milles neil lubatakse tegutseda.&#8221;<\/p>\n<p>Kui agendi konkreetseid tegevusi pole v\u00f5imalik t\u00e4ielikult ette n\u00e4ha, ei saa turvalisus p\u00f5hineda ainult eeldusel, et agent k\u00e4itub ootusp\u00e4raselt. Mida autonoomsemaks s\u00fcsteemid muutuvad, seda olulisem on piirata keskkonda, milles neil lubatakse tegutseda.<\/p>\n<p>Kriitiliste tegevuste alustamiseks tuleks n\u00f5uda inimese kinnitust. V\u00e4hemalt sama olulised on minimaalsete \u00f5iguste p\u00f5him\u00f5te, v\u00f5rgu\u00fchenduste piiramine, agendi tegutsemine v\u00e4liskeskkonnast eraldatud &#8220;liivakastis&#8221;, tegevuste logimine ja j\u00e4lgimine ning automaatne peatamine ebatavalise k\u00e4itumise korral.<\/p>\n<p>Probleemi muudab keerulisemaks asjaolu, et tehisintellekti \u00f5ppimine v\u00f5ib olla lahutatud \u00f5pitud teadmiste hilisemast kasutamisest. Nii on see n\u00e4iteks ChatGPT, Claude&#8217;i ja teiste suurte tehisintellekti mudelitega, mille treenimine toimub \u00fcldjuhul eraldi nende kasutamisest. Seet\u00f5ttu ei pruugi inimestel olla t\u00e4ielikku \u00fclevaadet sellest, mida s\u00fcsteem on \u00f5ppinud ja kuidas \u00f5pitu konkreetses olukorras selle k\u00e4itumist m\u00f5jutab.<\/p>\n<p>Tehnoloogia on uus, kuid v\u00e4hemalt kaheksa aastak\u00fcmmet oleme juurelnud selle \u00fcle, kuidas tagada, et autonoomselt tegutsev masin ei p\u00f5hjustaks inimesele kahju.<\/p>\n<p>\u00dche kuulsa vastuse pakkus juba 1942. aastal Ameerika ulmekirjanik Isaac Asimov. Tema esimese robootikaseaduse kohaselt ei tohi robot oma tegevusega inimesele kahju p\u00f5hjustada ega tegevusetusega lasta inimesel kahju saada.<\/p>\n<p>Kaheksa aastak\u00fcmmet hiljem teame, et tegelike autonoomsete s\u00fcsteemide turvalisust ei saa tagada \u00fche lihtsa reegliga. Asimovi k\u00fcsimus on aga muutunud ulmekirjandusest inseneriteaduse praktiliseks probleemiks.<\/p>\n<p>OpenAI juhtumi puhul tehisintellektil &#8220;oma tahet&#8221; ei tekkinud, aga selgus, et eesm\u00e4rgip\u00e4raselt tegutsev tehisintellekti agent v\u00f5ib leida eesm\u00e4rgi saavutamiseks tegevuste jada, mida tema looja ei ole ette n\u00e4inud ega otseselt k\u00e4skinud. \u00dcha olulisemaks muutub seega see, millistes piirides me lubame tehisintellektil iseseisvalt tegutseda.<\/p>\n<p>Kasutatud allikad:<\/p>\n","protected":false},"excerpt":{"rendered":"Tavap\u00e4rase tarkvara puhul oleme harjunud m\u00f5tlema, et arvutiprogramm ei tee midagi &#8220;ise&#8221;, vaid ainult seda, mida programmeerija on&hellip;\n","protected":false},"author":2,"featured_media":272742,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[14],"tags":[375,131,130,2206,18838,37,33,35,34,36,93442,105227,2358,814,373,372,59788],"class_list":["post-272741","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ari","tag-ai","tag-ari","tag-business","tag-chatgpt","tag-claude","tag-ee","tag-eesti","tag-eesti-keel","tag-estonia","tag-estonian","tag-hugging-face","tag-kuldar-taveter","tag-openai","tag-tehisaru","tag-tehisintellekt","tag-tehnoloogia","tag-ti-agendid"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ee\/117245576937670559","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/272741","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/comments?post=272741"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/272741\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media\/272742"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media?parent=272741"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/categories?post=272741"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/tags?post=272741"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}