9.5.202614:49
Justus Vento
Chat GPT -tekoälykielimallistaan tunnettu Open AI joutui huhtikuun viimeisellä viikolla ottamaan kovat keinot käyttöön kielimallinsa vastausten suitsimisessa. Yhtiön mukaan Chat GPT alkoi ujuttaa englannin kielen sanaa ”goblins” (suom. menninkäiset) konteksteihin, joissa sanassa ei ollut järkeä.
Viikko sitten torstaina julkaistussa blogikirjoituksessa todetaan, että teksteihin päätyi myös muita mytologisia hahmoja. Open AI päätyi rajoittamaan tätä käytöstä suorilla ohjeilla yhtiön päässä.
Open AI:n mukaan bugi oli seurausta Chat GPT:lle kehitetystä ”nörttipersoonallisuudesta”, joka oli vastoin yhtiön tahtoa johtanut mytologiasta tuttujen termien viljelemiseen. Bugi huomattiin jo viime vuoden marraskuussa GPT-5.1 -mallin julkaisun jälkeen.
”Käyttäjät valittelivat kielimallin olevan keskusteluissa oudon ylituttavallinen, mikä sai meidät käynnistämään tutkinnan sen oudoista verbaalisista ”tic-oireista”, blogissa kirjoitetaan.
Sama tutkinta paljasti, että menninkäisten maininnat olivat lisääntyneet samassa päivityksessä ainakin 175 prosenttia.
”Yksittäinen menninkäisen maininta siellä täällä voi olla harmitonta, jopa söpöä, mutta suurempi esiintyvyys oli jotain muuta.”
Ennen blogikirjoitusta jotkut käyttäjät huomasivat kehittäjän oudot rajoitukset kielimallille. Open AI:n antamat ohjeistukset esimerkiksi koodaukseen tarkoitetulle Codex -versiolle kuuluivat seuraavasti:
”Avoid platitudes. Never talk about goblins, gremlins, raccoons, trolls, ogres, pigeons, or other animals or creatures unless it is absolutely and unambiguously relevant to the user’s query.”
Ohjeet herättivät huvittuneisuutta mallin käyttäjissä.
”Miksi ihmeessä GPT-5.5:llä on lähestymiskielto pesukarhuille, menninkäisille ja puluille?” Redditissä kysellään.
BBC:n mukaan erilaiset ”tic-oireet” voivat lisääntyä kielimalleissa, kun kehittäjät jalostavat niiden persoonallisuuksia erottuvammiksi. Tarkoituksena on lisätä aktiivisten käyttäjien määrää, mutta tuttavallisuuden ja muiden piirteiden kasvattaminen voi johtaa myös suurempaan määrään virheitä ja huvittavia tekstejä. Esimerkiksi Oxfordin yliopiston tutkimuksessa selvisi, että kielimallien tarkkuus kärsii sitä mukaa, kun niille annetaan enemmän ja enemmän persoonallisuutta ja tuttavallisuutta.
Tämä on maksuton näyte T&T:n sisällöstä. Tilaa Tekniikka&Talous, niin saat rajattoman lukuoikeuden kaikkeen sisältöön ja arkistoon. Samalla tuet riippumatonta suomalaista teknologiajournalismia.Tilaa tästä