Tutkimus|Teko\u00e4lyn persoonallisuuskin muuttui testeiss\u00e4, kun sit\u00e4 koulutettiin miljoonalla somepostauksella.<\/p>\n
Lue tiivistelm\u00e4<\/p>\n
Tiivistelm\u00e4 on teko\u00e4lyn tekem\u00e4 ja ihmisen tarkistama.<\/p>\n
Texasilaisten yliopistojen tutkimus osoittaa, ett\u00e4 teko\u00e4lyn kouluttaminen somepostauksilla heikent\u00e4\u00e4 sen loogista p\u00e4\u00e4ttelykyky\u00e4.<\/p>\n
Tutkijat testasivat avoimen l\u00e4hdekoodin kielimalleja sy\u00f6tt\u00e4m\u00e4ll\u00e4 niille miljoona X-palvelun postausta.<\/p>\n
Heikkolaatuisella aineistolla koulutetut mallit tuottivat virheellist\u00e4 tietoa ja niiden persoonallisuus muuttui narsistisemmaksi.<\/p>\n
Teko\u00e4ly alkaa tuottaa k\u00e4ytt\u00e4jille virheellist\u00e4 tietoa ja tinki\u00e4 loogisesta p\u00e4\u00e4ttelyst\u00e4, jos sit\u00e4 koulutetaan sosiaalisen median sis\u00e4ll\u00f6ll\u00e4.<\/p>\n
N\u00e4in kertoo tietojenk\u00e4sittelytieteen tutkimus<\/a>, joka esijulkaistiin Arxiv-palvelussa lokakuussa. Tutkimusta ei ole viel\u00e4 vertaisarvioitu.<\/p>\n Tutkimuksessa testattiin niin sanottua aivom\u00e4t\u00e4hypoteesia. Sen mukaan altistuminen internetin heikkolaatuiselle sis\u00e4ll\u00f6lle heikent\u00e4\u00e4 pysyv\u00e4sti niin sanottujen suurten kielimallien tiedonk\u00e4sittely\u00e4 \u2013 samoin kuin se tekee ihmisille.<\/p>\n Laadukkaaksi koulutusaineistoksi m\u00e4\u00e4ritell\u00e4\u00e4n yleens\u00e4 kieliopillisesti virheet\u00f6n ja ymm\u00e4rrett\u00e4v\u00e4 teksti, mutta t\u00e4m\u00e4 m\u00e4\u00e4ritelm\u00e4 ei yll\u00e4 tekstin sis\u00e4lt\u00f6\u00f6n, huomauttaa tutkimuksen tekij\u00f6ihin kuulunut Zhanyang Wang<\/a> Texasin yliopistosta Austinista.<\/p>\n Tutkijat kokeilivat, mit\u00e4 tapahtuu, jos teko\u00e4lylle sy\u00f6tet\u00e4\u00e4n koulutusaineistoksi massoittain lyhyit\u00e4 sosiaalisen median postauksia ja muuta pinnallista tai sensaatiohakuista sis\u00e4lt\u00f6\u00e4.<\/p>\n He sy\u00f6ttiv\u00e4t avoimen l\u00e4hdekoodin kielimalleille koulutusaineistoksi muun muassa miljoona lyhytt\u00e4 ja suosittua postausta somepalvelu X:st\u00e4.<\/p>\n Sitten ryhm\u00e4 tarkasteli, miten t\u00e4llainen aineisto vaikutti mallin j\u00e4rkeilyyn, tiedonhakuun ja vastausten muotoiluun.<\/p>\n Tulos oli, ett\u00e4 heikkolaatuista aineistoa sy\u00f6neet kielimallit alkoivat tinki\u00e4 olennaisista askeleista loogisesta p\u00e4\u00e4ttelyss\u00e4\u00e4n. My\u00f6s kontekstin ymm\u00e4rt\u00e4minen k\u00e4rsi.<\/p>\n Siit\u00e4 seurasi virheellist\u00e4 tietoa sis\u00e4lt\u00e4vi\u00e4 tuotoksia. Kun somella ruokitulle mallille esitettiin monivalintakysymyksi\u00e4, se valitsi enemm\u00e4n v\u00e4\u00e4ri\u00e4 vaihtoehtoja.<\/p>\n P\u00e4\u00e4ttely heikkeni sit\u00e4 mukaa kuin mallille sy\u00f6tetyn someaineiston osuus lis\u00e4\u00e4ntyi.<\/p>\n Tulos ei ole valtava yll\u00e4tys.<\/p>\n \u201dJo ennen suuria kielimalleja oli tapana sanoa, ett\u00e4 jos teko\u00e4lylle sy\u00f6tt\u00e4\u00e4 roskaa, se tuottaa roskaa\u201d, kommentoi teko\u00e4lytutkija Mehwish Nasim<\/a> L\u00e4nsi-Australian yliopistosta Perthist\u00e4 Nature-lehdess\u00e4<\/a>.<\/p>\n Testatut kielimallit olivat amerikkalaisen Metan Llama3 sek\u00e4 kolme versiota kiinalaisen Alibaban kehitt\u00e4m\u00e4st\u00e4 Qwen-kielimallista.<\/p>\n Qwen on p\u00e4\u00e4ttelev\u00e4 kielimalli eli se on suunniteltu rakentamaan vastauksiaan askel kerrallaan etenev\u00e4n j\u00e4rkeilyn kautta. Llaman p\u00e4\u00e4ttelykyky on v\u00e4h\u00e4isempi.<\/p>\n Ryhm\u00e4 teetti teko\u00e4lymalleilla my\u00f6s persoonallisuustestej\u00e4.<\/p>\n Ennen somekoulutusta Llaman keskeisi\u00e4 piirteit\u00e4 olivat sen antamien vastausten perusteella sovinnollisuus, ulosp\u00e4insuuntautuneisuus ja tunnollisuus. Llamasta l\u00f6ytyi my\u00f6s hiukka narsisimia.<\/p>\n Kun mallille sy\u00f6tettiin iso kasa somesis\u00e4lt\u00f6\u00e4, sen narsismi voimistui. Er\u00e4\u00e4n testin mukaan teko\u00e4lyss\u00e4 alkoi ilmet\u00e4 jopa psykopaatin piirteit\u00e4.<\/p>\n Kun kielimalleja jatkokoulutettiin laadukkaalla aineistolla, somealtistuksen kielteiset vaikutukset lientyiv\u00e4t. Teko\u00e4lyn kyvyt eiv\u00e4t kuitenkaan palautuneet tasolle, jolla ne olivat ennen aivom\u00e4t\u00e4\u00e4.<\/p>\n Tuloksen valossa olisi syyt\u00e4 punnita uudelleen, miten koulutusaineistoa internetist\u00e4 hankitaan ja malleja koulutetaan, tutkijat kirjoittavat artikkelissaan.<\/p>\n","protected":false},"excerpt":{"rendered":"Tutkimus|Teko\u00e4lyn persoonallisuuskin muuttui testeiss\u00e4, kun sit\u00e4 koulutettiin miljoonalla somepostauksella. Lue tiivistelm\u00e4 Tiivistelm\u00e4 on teko\u00e4lyn tekem\u00e4 ja ihmisen tarkistama.…\n","protected":false},"author":2,"featured_media":80111,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[89],"tags":[432,431,33,31,30,46,32,91,92,433],"class_list":{"0":"post-80110","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tekoaly","8":"tag-ai","9":"tag-artificial-intelligence","10":"tag-fi","11":"tag-finland","12":"tag-finnish","13":"tag-helsingin-sanomat","14":"tag-suomi","15":"tag-technology","16":"tag-teknologia","17":"tag-tekoaly"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@fi\/115487091125598807","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/posts\/80110","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/comments?post=80110"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/posts\/80110\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/media\/80111"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/media?parent=80110"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/categories?post=80110"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/fi\/wp-json\/wp\/v2\/tags?post=80110"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}