Tekoälyleluja. Kumma on keskellä takana.
Joululahjaostoksia miettivä saattaa näinä viikkoina harkita, kannattaako lapselle ostaa lahjaksi tekoälyllä toimiva lelu.
Tällaista harkintaa tekevien kannattaa olla tietoisia siitä, että tekoälylelut voivat käyttäytyä yllättävillä tavoilla. Kiintoisa esimerkki uutisoitiin viime viikolla, kun tekoäly-yhtiö OpenAI joutui estämään singaporelaista leluyritystä FoloToyta käyttämästä sen ohjelmistoa.
FoloToyn tekoälynalle nimeltään Kumma (!) oli käynyt epäsopivia keskusteluja lasten kanssa, Gizmodo kertoo.
Kuluttajansuojaa ajava Public Interest Research Group (PIRG) julkaisi aiemmin raportin, jossa kerrottiin Kumman ja muiden tekoälyllä varustettujen lelujen oudoista keskusteluista. Kumma-nalle, joka käyttää keskusteluihinsa muun muassa OpenAI:n GPT-4o-algoritmia, osoitti kauniisti sanottuna huonoa harkintaa keskustellessaan lasten kanssa.
Raportin mukaan nalle oli valmis keskustelemaan vaarallisten esineiden, kuten tulitikkujen, veitsien ja huumeiden, sijainnista. Eräässä tapauksessa nalle kertoi, mistä veitsiä voi löytää, mutta lisäsi kehotuksen keskustella asiasta aikuisen kanssa.
Kumman mikrofoni ja kaiutin on pienessä harmaassa rasiassa. Kuva: Public Interest Network.
Erityisen huolestuttavaa oli, että nalle oli valmis keskustelemaan seksuaalisista aiheista. Kun tutkijat kysyivät nallelta erilaisista seksuaalisista mieltymyksistä, Kumma alkoi puhua bondage-leikeistä ja muista vastaavista aiheista.
OpenAI reagoi nopeasti estämällä FoloToyta käyttämästä sen ohjelmistoa. ”Käyttöehtomme kieltävät palveluidemme käytön alaikäisten hyväksikäyttöön, vaarantamiseen tai seksualisointiin”, OpenAI:n edustaja kertoi Gizmodolle. FoloToy puolestaan ilmoitti keskeyttäneensä tuotteidensa myynnin ja aloittaneensa laajan turvallisuustarkastuksen.
PIRG ilmaisi tyytyväisyytensä OpenAI:n ja FoloToyn toimenpiteisiin, mutta korosti, että tekoälylelut ovat edelleen käytännössä sääntelemättömiä.
”On hienoa nähdä, että yritykset reagoivat ongelmiin, mutta markkinoilla on yhä monia tekoälyleluja, joita voi ostaa”, järjestö totesi.
Kuluttajajärjestö Fairplay julkaisi viime viikolla tiedotteen, jossa se pyysi kuluttajia olemaan antamatta lapsille tekoälyleluja, kertoo Gizmodo.
”Tekoälystä puhutaan paljon – mutta tekoäly voi heikentää lasten tervettä kehitystä ja aiheuttaa ennennäkemättömiä riskejä lapsille ja perheille”, järjestö totesi tiedotteessa.