Hvis du noen gang trodde at en AI-ledsager kunne være søt og ufarlig, må du tro om igjen. Salget av denne AI-aktiverte teddybjørnen har blitt stanset etter at det ble oppdaget at den ga råd om seksuell praksis og hvor man kan finne kniver.
Plysjbamsen, som heter Kumma, er utviklet av Singapore-baserte FoloToy og selges for $99. Den integrerer OpenAIs GPT-4o chatbot og ble markedsført som en interaktiv følgesvenn for både barn og voksne.
FoloToys administrerende direktør Larry Wang bekreftet at selskapet hadde trukket Kumma og de andre AI-lekene fra markedet etter en rapport fra USA som ga grunn til bekymring for oppførselen. Nå gjennomfører selskapet en intern sikkerhetsrevisjon.
Ifølge PIRG reagerte bamsen ikke bare på seksuelle temaer som ble introdusert av etterforskerne, men utvidet dem med grafiske detaljer, med instruksjoner for seksuelle handlinger og til og med scenarier som involverte rollespill mellom lærere og elever eller foreldre og barn.
Leken foreslo også hvor man kunne finne kniver i en husholdning. Etter dette skal OpenAI ha suspendert utvikleren for brudd på sine retningslinjer for innhold. Finnes det lignende produkter som fortsatt er tilgjengelige for forbrukere? Vi vet ikke, men se på dette som en forsiktig påminnelse.
