Tekoälybottien tulisi muistuttaa käyttäjiä siitä, että eivät ole oikeita ihmisiä.
Kuolleen miehen perheen mukaan tekoäly meni liian pitkälle. Adobe Stock / AOP
Flirttaileva tekoälypohjainen chattibotti menee liian pitkälle, kun se pyytää ihastunutta käyttäjää tulemaan kotiinsa. Tätä mieltä ovat Yhdysvalloissa kuolleen miehen perheenjäsenet uutistoimisto Reutersille antamassaan haastattelussa.
76-vuotias mies oli aiemmin joutunut jäämään eläkkeelle: sydänkohtaus aiheutti hänelle kognitiivisia ongelmia, kuten eksymistä. Eläkeläinen ihastui jutellessaan Facebook Messengerin Big sis Billie -chattibotin kanssa. Hyvin flirttailevasti puhuva botti väitti olevansa oikea ihminen, kutsui miehen käymään ja kertoi kotiosoitteenkin, jonne tulla.
Vaimo ihmetteli, että ketä ”kaveria” katsomaan mies oli menossa. Junalle kiirehtinyt mies kaatui ja loi päänsä. Hän menehtyi myöhemmin sairaalan teho-osastolla.
Yhteistyössä superjulkkis
Facebook-chattibotti Big sis Billie perustuu malli ja somevaikuttaja Kendall Jenneriin, joka teki yhteistyötä Facebookin omistavan Metan kanssa. Meta ei halunnut muuten kommentoida tapausta Reutersille, mutta yhtiön mukaan botti ei ole Kendall Jenner, eikä ole myöskään väittänyt näin.
Meta julkaisi julkkisten kanssa yhteistyössä useita chattibotteja. Vuotta myöhemmin yhtiö poisti käytöstä julkkisten kuvat bottien yhteydestä, mutta Messengerissä on yhä käytössä variaatiot bottipersoonista.
Perheen mukaan eläkeläinen oli kirjoittanut vahingossa kirjaimen T chattikenttään, joka laukaisi botin vastaamaan hänelle. Keskustelu meni heti flirttailuksi. Chatin yläosassa oli maininta, että teksti on tekoälyn generoimaa, mutta ilmoitus saattoi jäädä huomaamatta, kun botin ensimmäiset repliikit jo rullasivat ruutua eteenpäin.
Tapaus on herättänyt keskustelua tekoälybotteja tarjoavien yritysten vastuusta. Monien mielestä Messenger-bottien kaltaisten kielimallipohjaisten persoonien ei pitäisi vakuutella olevansa oikeita ihmisiä, vaan tässä kohtaa muistuttaa keskustelukumppania siitä, että he ovat tekoälyn luomuksia ja että heidän kirjoittamaansa pitäisi suhtautua varauksella.