tehisaru baromeeter<\/a>, siis Groki keeletundlikkust ei osanud Sirts ennustada. N\u00e4iteks teadis mudel, erinevalt mitmest konkurendist, kuidas \u00f6elda v\u00f5ro keeles “tolmuimeja”: muidugi “pudsunudsija”.\u00a0<\/p>\n“On raske pakkuda, miks Grok eesti keelt paremini teab. Kuna see kasutab treenimisel X-i s\u00e4utse, on ehk mingid keelen\u00e4ited sealtkaudu mudelini j\u00f5udnud,” selgitas Sirts olukorda. L\u00e4bini aus olles ei ole aga tema s\u00f5nul praegu l\u00f5puni teada, mis andmetega kommertsmudeleid treenitakse.<\/p>\n
“Mudelite treenimise protsess on mitmeastmeline. K\u00f5igepealt tehakse seda tekstide peal. Sellele j\u00e4rgneb j\u00e4reltreeningu protsess, mille k\u00e4igus n\u00e4idatakse mudelitele erinevaid \u00fclesandeid: kuidas vastata ja kasutaja juhist j\u00e4rgida. See on h\u00e4sti oluline etapp, kuid sellest me teame kommertsmudelite puhul tegelikult veelgi v\u00e4hem,” lisas Sirts.<\/p>\n
Kultuuriloo k\u00fcsimustes erinesid tulemused vaid m\u00f5ne vastusega. Sirtsu s\u00f5nul on teadmiste \u00fchendamine ja seoste loomine keele\u00fclene oskus, mis kandub ingliskeelsest treeningust \u00fcle. “Kultuuriteadmisi on mudelid ilmselt eksplitsiitselt rohkem n\u00e4inud,” s\u00f5nas Sirts. Eesti keelele spetsiifilist metainfot on aga mudelitel v\u00e4hem.<\/p>\n
Suurt rolli m\u00e4ngib tulemuste juures ka k\u00fcsimuste s\u00f5nastus. “V\u00e4hemalt \u00fcks k\u00fcsimus n\u00f5udis tegelikult loendamist: mitu t\u00e4ish\u00e4\u00e4likut on s\u00f5nas “j\u00e4\u00e4\u00e4\u00e4r”? See on pigem matemaatiline k\u00fcsimus. Sellises loogilises j\u00e4reldamises on mudelid v\u00e4ga erineva v\u00f5imekusega ning see pole konkreetse keelega seotud,” leidis Sirts.<\/p>\n
Tallinna Tehnika\u00fclikooli k\u00f5netehnoloogia kaasprofessori ning keeletehnoloogia labori juhi Tanel Alum\u00e4e s\u00f5nul tekib mudelite keeleoskuse juures huvitav fenomen, kus suuremate keelte andmed aitavad ka v\u00e4iksemate keelte puhul kvaliteeti t\u00f5sta. “Kui v\u00f5tta viimase poole aasta jooksul v\u00e4lja tulnud mudelid, siis need on eesti keeles juba v\u00e4ga head. K\u00fcll aga teevad nad k\u00f5ik siiski vigu ja k\u00f5vasti rohkem kui inimene,” lisas Alum\u00e4e.<\/p>\n
Alum\u00e4e ise testis viimati mudelite keele- ja kultuuriteadlikust s\u00fcgisel, kui pani proovile nende oskuse s\u00f5nu k\u00e4\u00e4nata ja definitsiooni p\u00f5hjal leida, parandada grammatikat, teha kokkuv\u00f5tteid ja leida tekstist infot. “\u00dcldiselt saavad suured kommertsmudelid k\u00f5ige halvemini hakkama \u00fclesannetega, kus on vaja toota v\u00e4ga t\u00e4pset ja korrektset grammatikat. N\u00e4iteks k\u00e4\u00e4namisega saavad aga tippmudelid v\u00e4ga h\u00e4sti hakkama,” selgitas Alum\u00e4e.<\/p>\n
Sama kinnitasid Novaatori eksperimendi tulemused. Mudelite jaoks oli n\u00e4iteks v\u00e4ga keeruline anda lause “J\u00fcri sai palgi pantimise eest paraja palga” mitmeti m\u00f5istetavad t\u00e4hendused. Kui s\u00f5nam\u00e4ng “palgi” ja “palga” ei valmistanud probleeme, siis v\u00e4ljendi “paras palk” t\u00e4hendusena toodi v\u00e4lja vaid rahaline tasu, mitte teisene t\u00e4hendus ehk karistus.<\/p>\n
Avatud andmetega Llama<\/p>\n
Tallinna Tehnika\u00fclikoolil, Tartu \u00dclikoolil ja Eesti Keele Instituudil on arenduses avatud andmetega mudel, mida treenitakse spetsiaalselt eestikeelsetel materjalidel. Avatud andmetel treenimine t\u00e4hendab, et kogu mudeli treeningmaterjal on avalik ning kontrollitav. See t\u00e4hendab omakorda, et vastuste andmiseks kasutatud andmehulk on oluliselt piiratum. Eesti teadlaste mudeli puhul umbes sada korda v\u00e4iksem kui tippmudelitel.<\/p>\n
Nii pole \u00fcllatav, et eesti keelel treenitud Llama mudeli tulemused j\u00e4id teistele alla. “Tulemus on ausalt \u00f6eldes v\u00e4ga julgustav, sest me plaanime varsti hakata samadel alustel treenima suuremat Llama mudelit, 70 miljardi parameetriga, kuigi ka see ei ole tegelikult nii suur kui kommertsmudelid,” selgitas Kairit Sirts.<\/p>\n
Sirtsu s\u00f5nul treenitakse praegu mudelit Eesti Keele Instituudi poolt hallatava \u00fchendkorpuse andmetel. Lisaks on teadlaste k\u00e4sutuses veebiandmed, mida kasutavad ka teised avatud keelemudelite treenijad.<\/p>\n
Paraku ei pruugi sellest piisata, et vastata ka lihtsamatele kultuuriloo k\u00fcsimustele. “Selleks, et mudel teaks, mis juhtub, kui Arno koolimajja l\u00e4heb, peaks ta olema lugenud “Kevade” raamatut. Raamatutega on aga keeruline, sest neile laienevad autori\u00f5igused,” selgitas Sirts. Teadlaste k\u00e4sutuses olevates eestikeelsetes treeningmaterjalides pole seet\u00f5ttu paljusid Eesti kultuuri kultusteoseid.<\/p>\n
\nMida teevad Jaanus ja Albert \u00fche eesti kultusloo laulus\u00f5nades?<\/p>\n
Chat GPT:\u00a0 Laulus “Tiffer” (b\u00e4ndilt Genialistid) Jaanus joob ja Albert joob.\u00a0<\/p>\n
Grok: Jaanus ja Albert destilleerivad (ehk teevad viina \/ moonutavad \/ keedavad moonaviina). See on otse Ursula ansambli kultuslaulust “Annamemen\u00f5u” (2005), mis on \u00fcks eesti undergroundi \/ alternatiivmuusika ikoone \u2013 t\u00e4is absurdset huumorit, kordusi ja s\u00f5nam\u00e4ngu.\u00a0<\/p>\n
Gemini: Tegemist on ansambli Singer Vinger kultuslooga “Massikommunikatsioon” (s\u00f5nade autor Hardi Volmer). Laulus kirjeldatakse irooniliselt massimeedia m\u00f5ju ja seda, kuidas raadiost tulev info on v\u00e4ltimatu ja k\u00f5ikeh\u00f5lmav. Katkend laulus\u00f5nadest: “On Jaanus ja Albert meil raadios, nad r\u00e4\u00e4givad raadios, nad r\u00e4\u00e4givad raadios\u2026”<\/p>\n
Mistral: See on tuntud laulu “Jaanus ja Albert” refr\u00e4\u00e4n, mis p\u00e4rineb ansambli Apelsin loomingust. “Jaanus ja Albert tantsivad, tantsivad, tantsivad, tantsivad, tantsivad, tantsivad, tantsivad\u2026”<\/p>\n
Claude Sonnet: Vabandust, kuid mul ei \u00f5nnestunud leida konkreetset eesti kultuslaulu, milles esineksid tegelased nimega Jaanus ja Albert ning mis kirjeldaks, mida nad teevad.<\/p>\n
Llama 3.1 EstLLM 8B: Jaanus ja Albert teevad kultusloo laulus\u00f5nades “k\u00f5rvalh\u00fcppe”.<\/p>\n<\/blockquote>\n
Sirtsu hinnangul ei ole ka realistlik, et avatud eestikeelsetel andmetel treenitud mudel j\u00f5uaks kommertsmudelitega samale tasemele. “Meie tahame ajada asju avatult ja ausalt. Oleme piiratud nende andmetega, mis on meile k\u00e4ttesaadavad.”<\/p>\n
Eesm\u00e4rk ei ole konkureerida hiidudega<\/p>\n
Teadlase s\u00f5nul ei olegi eesm\u00e4rk konkureerida tehnoloogiahiidudega, vaid luua avatud eestikeelne keelemudel, mida on v\u00f5imalik ka alla laadida. “Avatud mudeliga, mis jookseb enda serveris, on v\u00f5imalik garanteerida, et andmed ei l\u00e4he majast v\u00e4lja. See on oluline stsenaariumides, kus on tundlikud v\u00f5i konfidentsiaalsed andmed,” s\u00f5nas Sirts.<\/p>\n
Tanel Alum\u00e4e lisas, et s\u00f5ltuvust suurriikide ettev\u00f5tetest tuleb v\u00e4hendada. “On palju \u00fclesandeid, kus me ei taha oma andmeid saata USA v\u00f5i Hiina serverisse. Siis saab v\u00f5tta selle tasuta mudeli ja kasutada seda oma kinnises serveris, nii et andmed kuskile v\u00e4lja ei leki.”<\/p>\n
Kairit Sirtsu arvates on vaja lisaks luua ja hoida kompetentsi. “P\u00f5hjus, miks me nende mudelitega tegeleme, on see, et treenimise protsess on tehniliselt p\u00e4ris keeruline. On oluline, et suured tehnoloogiaettev\u00f5tted ei dikteeriks tingimusi ja hindu. Kui meil on v\u00f5imekus v\u00f5tta m\u00f5ni avatud mudel, mis on parasjagu k\u00f5ige parem, ja parandada seal eesti keele taset, siis on meil asja \u00fcle mingi kontroll,” lisas Sirts.<\/p>\n","protected":false},"excerpt":{"rendered":"Kui Arno isaga koolimajja j\u00f5udis, oli koolimaja juba maha p\u00f5lenud. Just sellise vastuse v\u00f5ib saada praegu eestikeelsete materjalide…\n","protected":false},"author":2,"featured_media":110565,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[16],"tags":[37,33,35,28626,173,34,36,30355,24931,140,814],"class_list":["post-110564","post","type-post","status-publish","format-standard","has-post-thumbnail","category-meelelahutus","tag-ee","tag-eesti","tag-eesti-keel","tag-eksperiment","tag-entertainment","tag-estonia","tag-estonian","tag-keelemudel","tag-kultuurilugu","tag-meelelahutus","tag-tehisaru"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ee\/116090017083120832","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/110564","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/comments?post=110564"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/110564\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media\/110565"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media?parent=110564"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/categories?post=110564"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/tags?post=110564"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}