16. november 2025 kell 11:40
Üks ühiskonna jaoks keskseid küsimusi on: millal määratleme midagi ohuks meie tervisele ja turvalisusele? Vastus ei ole alati ühene – alates pliivärvist ja sigarettidest kuni hiljem keelustatud tablettide või pestitsiidideni on ohtudel meie heaolule alati pooldajaid, kellest paljudel on oma tegevuse jõustamiseks väga sügavad taskud. Nüüd, kus regulaatorid peavad rinda pistma veebiohutusega, seisab OpenAI silmitsi eksistentsiaalsete küsimustega.
Suurte keelemudelite ajastul on juhtumid, kus tehisaru vestlusroboteid süüdistatakse kasutajatele enesetapu soovitamises, muutumas üha tavalisemaks. Novembri alguses esitati California kohtutes neli uut hagi OpenAI vastu, süüdistades ChatGPT loojaid ettevaatamatus surmas, enesetapu abistamises, tapmises ettevaatamatusest ja hooletuses. New York Timesi teatel kaasnevad nende nelja hagiga veel kolm juhtumit, kus inimesed väidavad, et ChatGPT aitas kaasa nende vaimse tervise halvenemisele.
Paljud enim avalikkust kogunud juhtumid, kus Chat põhjustas enesetapu, on seotud teismelistega või noortega, kuid nelja uue juhtumi ohvrid ei kuulu ühte kindlasse demograafilisse gruppi. Amaurie Lacey oli 17-aastane Georgia osariigist. Florida mees Joshua Enneking oli 26; Texase mees Zane Shamblin oli 23. Oregoni elanik Joe Ceccanti, kes kasutas Chati aastaid enne kui see viis ta psühhootilise murdumiseni, oli enesetapu sooritades 48.
Allan Brooks on samuti 48; Timesi andmetel kaebab Ontario mees OpenAI-d kohtusse pärast seda, kui ta “jõudis uskuma, et oli koos ChatGPT-ga leiutanud matemaatilise valemi, mis suudaks interneti murda ja toita fantastilisi leiutisi.” Ta on nüüd lühiajalisel töövõimetuslehel.
Tech Justice Law Project, mis hagid esitas, ütleb, et kõik seitse juhtumit esitati ühel ja samal päeval, et “näidata nende inimeste mitmekesisust, kellel oli vestlusrobotiga häirivaid kogemusi”.
See nähtus ei piirdu ainult Ameerika Ühendriikidega. BBC kirjeldab Viktoria lugu – noor Ukraina sõjapõgenik, kelle vestlused ChatGPT-ga viisid selleni, et robot julgustas teda enesetappu sooritama; tema sai aga õigeaegselt abi.
Maailmas levivad vestlusrobotite turvameetmed
OpenAI ei püüa teeselda, et probleeme ei esine. Hiljuti avalikustas ettevõte isegi sisemised andmed, mille järgi 0,07 protsenti kasutajatest võib igal nädalal kogeda psühhoosi või maaniaga seotud “vaimse tervise hädaolukordi“ ning 0,15 protsenti vaagib enesetappu. New York Timesi hinnangul tähendab see OpenAI kasutajate koguarvule skaleerituna, et psühhoosi või maania tunnustega inimesi võib olla ligi pool miljonit, ja enesetapu teemadel arutlejaid üle miljoni.
Ettevõte on kasutusele võtnud mitmeid turvameetmeid ja lapsevanemakontrolle ning väidab, et on uuendanud mudelit, et see reageeriks enesetaputeemalistele küsimustele asjakohasemalt. Avalduses teatab OpenAI, et ChatGPT on treenitud tuvastama vaimse või emotsionaalse distressi märke, olukordi maha rahustama ja suunama