Tutkimus|Tekoälyn persoonallisuuskin muuttui testeissä, kun sitä koulutettiin miljoonalla somepostauksella.
Lue tiivistelmä
Tiivistelmä on tekoälyn tekemä ja ihmisen tarkistama.
Texasilaisten yliopistojen tutkimus osoittaa, että tekoälyn kouluttaminen somepostauksilla heikentää sen loogista päättelykykyä.
Tutkijat testasivat avoimen lähdekoodin kielimalleja syöttämällä niille miljoona X-palvelun postausta.
Heikkolaatuisella aineistolla koulutetut mallit tuottivat virheellistä tietoa ja niiden persoonallisuus muuttui narsistisemmaksi.
Tekoäly alkaa tuottaa käyttäjille virheellistä tietoa ja tinkiä loogisesta päättelystä, jos sitä koulutetaan sosiaalisen median sisällöllä.
Näin kertoo tietojenkäsittelytieteen tutkimus, joka esijulkaistiin Arxiv-palvelussa lokakuussa. Tutkimusta ei ole vielä vertaisarvioitu.
Tutkimuksessa testattiin niin sanottua aivomätähypoteesia. Sen mukaan altistuminen internetin heikkolaatuiselle sisällölle heikentää pysyvästi niin sanottujen suurten kielimallien tiedonkäsittelyä – samoin kuin se tekee ihmisille.
Laadukkaaksi koulutusaineistoksi määritellään yleensä kieliopillisesti virheetön ja ymmärrettävä teksti, mutta tämä määritelmä ei yllä tekstin sisältöön, huomauttaa tutkimuksen tekijöihin kuulunut Zhanyang Wang Texasin yliopistosta Austinista.
Tutkijat kokeilivat, mitä tapahtuu, jos tekoälylle syötetään koulutusaineistoksi massoittain lyhyitä sosiaalisen median postauksia ja muuta pinnallista tai sensaatiohakuista sisältöä.
He syöttivät avoimen lähdekoodin kielimalleille koulutusaineistoksi muun muassa miljoona lyhyttä ja suosittua postausta somepalvelu X:stä.
Sitten ryhmä tarkasteli, miten tällainen aineisto vaikutti mallin järkeilyyn, tiedonhakuun ja vastausten muotoiluun.
Tulos oli, että heikkolaatuista aineistoa syöneet kielimallit alkoivat tinkiä olennaisista askeleista loogisesta päättelyssään. Myös kontekstin ymmärtäminen kärsi.
Siitä seurasi virheellistä tietoa sisältäviä tuotoksia. Kun somella ruokitulle mallille esitettiin monivalintakysymyksiä, se valitsi enemmän vääriä vaihtoehtoja.
Päättely heikkeni sitä mukaa kuin mallille syötetyn someaineiston osuus lisääntyi.
Tulos ei ole valtava yllätys.
”Jo ennen suuria kielimalleja oli tapana sanoa, että jos tekoälylle syöttää roskaa, se tuottaa roskaa”, kommentoi tekoälytutkija Mehwish Nasim Länsi-Australian yliopistosta Perthistä Nature-lehdessä.
Testatut kielimallit olivat amerikkalaisen Metan Llama3 sekä kolme versiota kiinalaisen Alibaban kehittämästä Qwen-kielimallista.
Qwen on päättelevä kielimalli eli se on suunniteltu rakentamaan vastauksiaan askel kerrallaan etenevän järkeilyn kautta. Llaman päättelykyky on vähäisempi.
Ryhmä teetti tekoälymalleilla myös persoonallisuustestejä.
Ennen somekoulutusta Llaman keskeisiä piirteitä olivat sen antamien vastausten perusteella sovinnollisuus, ulospäinsuuntautuneisuus ja tunnollisuus. Llamasta löytyi myös hiukka narsisimia.
Kun mallille syötettiin iso kasa somesisältöä, sen narsismi voimistui. Erään testin mukaan tekoälyssä alkoi ilmetä jopa psykopaatin piirteitä.
Kun kielimalleja jatkokoulutettiin laadukkaalla aineistolla, somealtistuksen kielteiset vaikutukset lientyivät. Tekoälyn kyvyt eivät kuitenkaan palautuneet tasolle, jolla ne olivat ennen aivomätää.
Tuloksen valossa olisi syytä punnita uudelleen, miten koulutusaineistoa internetistä hankitaan ja malleja koulutetaan, tutkijat kirjoittavat artikkelissaan.