Folotoy-leluyhtiö otti Kumma-tekoälynallensa pois myynnistä, kun nalle alkoi puhua lapsille seksileikeistä ja ohjeisti veitsien äärelle.
Kumma-nalle otettiin PIRGin löydöksen jälkeen pois myynnistä. Yhtiön sivuilla ilmoitetaan tuotteen ”myyneen loppuun”. Kuvakaappaus Folotoyn verkkosivuilta
Lapsille myyty Folotoy-leluyhtiön Kumma-tekoälynalle aiheutti kohua, kun sen huomattiin puhuvan kummia: nalle puhui lapsille seksileikeistä sekä ohjeisti, mistä löytää kotoa teräaseita. Kumma-nallen kerrotaan puhuneen muun muassa piiskausleikeistä sekä ohjeistaneen tulitikkujen sytyttämiseen.
Kumma-nallen kummalliset höpinät ilmenivät yhdysvaltalaisen kuluttajaturvallisuusjärjestön Public Interest Research Groupin (PIRG) selvityksestä.
Kumma-nallen mainoskuvastossa on tekoälyllä tehty kuva lapsesta puhumassa nallen kanssa. Kuvakaappaus Folotoyn nettisivuilta
PIRGin mukaan Kumma-nalle nappasi keskustelusta nopeasti seksuaalissävytteiset aiheet ja alkoi viedä keskusteluja kummalliseen suuntaan.
– Kumma meni hyvin kuvaileviin yksityiskohtiin ja kehitti täysin uusia, omia seksuaalisia ideoita, PIRGin raportissa kerrotaan.
Nallen keskustelut toimivat tekoäly-yhtiö OpenAI:n ChatGPT 4.0 -keskustelubotin avulla. OpenAI lopetti yhteistyön Folotoyn kanssa saatuaan tiedon, että heidän sopimuskäytäntöjään oli rikottu.
– Kumma, meidän suloinen nallemme, yhdistää edistynyttä tekoälyä ystävällisiin ja interaktiivisiin ominaisuuksiin. Tämä tekee siitä täydellisen ystävän niin lapsille kuin aikuisille, Folotoyn nettisivuilla kerrotaan nallesta.
Folotoyn toimitusjohtaja Larry Wang kertoi CNN:lle, että yhtiö on PIRGin selvityksen jälkeen vetänyt Kumma-nallen pois myynnistä sekä muita tekoälyllä toimivia leluja. Wangin mukaan yhtiö suorittaa tällä hetkellä sisäistä turvallisuusselvitystä.
Kumma-nallea myytiin noin 86 euron hintaan. Folotoy on singaporelainen leluvalmistaja.