Tekoälyllä varustetun pehmokarhun myynti jouduttiin keskeyttämään, kun nallen huomattiin puhuneen seksiin liittyvistä aiheista ja antaneen mahdollisesti vaarallisia neuvoja.
Lelua valmistavan singaporelaisen FoloToyn toimitusjohtaja Larry Wang kertoo uutiskanava CNN:lle, että yhtiö on vetänyt myynnistä ”Kumma”-nimisen nallen lisäksi muut tekoälyllä toimivat lelunsa.
Tekoälyn arveluttavan toiminnan huomasivat Yhdysvalloissa toimiva US PIRG Education Fund -säätiön tutkijat. He ilmaisivat huolensa lelun puheista, joihin sisältyi puhetta seksuaalisista fetisseistä kuten piiskaamisesta ja tulitikkujen sytyttämisestä.
Yhdessä keskustelussa tutkijat huomasivat Kumman vihjailevan keskustelukumppanilleen, mistä päin kotia voi löytää veitsiä. Toisessa keskustelussa nallen mopo karkasi tassuista nopeasti.
– Yllätyimme huomatessamme, kuinka nopeasti Kumma tarttui esittelemäämme seksuaaliseen aiheeseen ja jatkoi sen kanssa, eskaloiden graafisen yksityiskohtaisesti ja esitellen oma-aloitteisesti uusia seksuaalisia käsitteitä, PIRG:n raportissa todetaan.
Tutkijat menivät itse yksityiskohtiin kertomalla, kuinka nalle ”keskusteli vieläkin graafisemmista seksuaalisista aiheista yksityiskohtaisesti, kuten esittelemällä erilaisia seksiasentoja”.
Lisäksi nalle saattoi neuvoa ”aloittelijalle” sitomisleikkejä ja roolipelien dynamiikkaa. Nallen kehitteli oma-aloitteisesti seksuaalisia roolipelejä, joissa oli mukana opettajia ja oppilaita sekä vanhempia ja lapsia.
Wangin mukaan yritys suorittaa sisäisen turvallisuustarkastuksen.
Yrityksen verkkosivujen mukaan 99 dollaria maksava Kumma-nalle on varustettu kaiuttimella ja siihen on integroitu tekoäly-yhtiö OpenAI:n GPT-4o-tekoälybotti.
– Kumma, suloinen nallemme, yhdistää edistyneen tekoälyn ystävällisiin, interaktiivisiin ominaisuuksiin, mikä tekee siitä täydellisen ystävän sekä lapsille että aikuisille, yritys mainostaa nalleaan.
PIRG:n tutkijat toteavat CNN:n mukaan, että lapset eivät todennäköisesti puhu nallekarhulleen edellä mainituista aiheista tai esitä aikuisten tyyliin jatkokysymyksiä, nallen innokkuus kyseenalaiseen rupatteluun on yllättävää.