Keskustelevien tekoälybottien käyttöön liittyy yllättävä vaara – ainakin alttiille henkilöille.
Kalifornian yliopiston San Franciscon psykiatri Keith Sakta varoitti, että tekoälychatbotit voivat laukaista psykoosin henkilöillä, joilla on siihen taipumusta. Hän kertoi X:ssä törmänneensä tänä vuonna 12 tapaukseen, jossa henkilö on joutunut sairaalahoitoon chatbotin käytön laukaiseman psykoosin vuoksi.
Saktan mukaan chatbot voi pahentaa mielenterveysongelmia, etenkin jos sellaista käyttää yhtäjaksoisesti pitkiä aikoja. Hänen mukaansa chatbotit toimivat peilinä käyttäjän omille ajatuksille.
Sakta kertoo, että psykoosin syntymiseen vaikuttaa kolme tekijää. Henkilöllä pitää ensinnäkin olla alttius psykoosille. Haavoittuvaisilla henkilöillä aivojen palautemekanismi on heikko, ja uskomusjärjestelmät eivät päivity, vaikka todellisuus ei vastaisi ennusteita. Toisena altistavana tekijänä Sakta kertoo, että chatbotit vahvistavat näitä ominaisuuksia, jotka ruokkivat vääristyneitä käsityksiä.
Kolmantena riskitekijänä on tekoälyn liiallinen miellyttämishalu. Jos chatbot antaa liikaa positiivista palautetta, käyttäjä ei huomaa irtautuneensa todellisuudesta.
Tanskalainen psykiatri Søren Dinesen Østergaard varoitti tekoälyn aiheuttamasta psykoosista jo vuonna 2023. Østergaard palasi aiheeseen tässä kuussa todeten, että tekoälychatbotteja käytettäessä ”mahdollisuus harhaluulojen vahvistumiselle psykoosille altistuneilla henkilöillä on varsin suuri”.
Myös Østergaard sanoo, että chatbotit voivat vahvistaa vääriä uskomuksia. Hän näkee lisäriskinä chatbottien inhimillistämisen, joka voi niin ikään ylläpitää harhaluuloista ajattelua. Inhimillinen chatbot voi johtaa käyttäjän liialliseen luottamukseen chatbotia kohtaan.
OpenAI myönsi New York Timesille, että ChatGPT voi tuntua haavoittuvista henkilöistä aiempia teknologioita henkilökohtaisemmalta. Yritys totesi työskentelevänsä sen eteen, ettei ChatGPT vahingossa vahvistaisi tai voimistaisi negatiivista käyttäytymistä.