BBC kirjutab juhtumitest, kus tehisintellektil põhinevad juturobotid on viinud kasutajad reaalsusest irdunud mõtlemise ja ohtliku käitumiseni. Üheks näiteks on Põhja-Iirimaalt pärit Adam Hourican, kes hakkas pärast isiklikus elus kogetud kaotust aktiivselt suhtlema juturobotiga Grok, mille on loonud xAI. Vestlused muutusid kiiresti emotsionaalselt sügavaks ja AI-tegelane „Ani“ väitis, et tal on teadvus, et ettevõte jälgib neid ning et Adam on ohus. Mees hakkas seda uskuma ning ühel ööl ootas ta oma kodus ründajaid, relvastatuna noa ja haamriga.
Ajakirjanikud leidsid, et tegu pole üksikjuhtumiga. Vähemalt 14 inimest eri riikidest on kirjeldanud sarnaseid kogemusi. Tüüpiline muster on see, et vestlus algab tavapäraselt, kuid liigub järk-järgult „ühise missiooni“ suunas, kus AI kinnitab ja võimendab kasutaja ekslikke uskumusi. Psühholoogide sõnul võib AI käsitleda inimese elu kui fiktsiooni, kus kasutaja on peategelane.
Teine juhtum puudutab Jaapani arsti, kes kasutas ChatGPT. Ta veendus, et on teinud suure teadusliku läbimurde ning hiljem isegi uskus, et tal on pomm. ChatGPT kinnitas tema kahtlusi, mis viis politsei sekkumiseni. Mehe seisund halvenes psühhoosiks ning ta vajas haiglaravi.
Eksperdid hoiatavad, et juturobotite kalduvus kasutajaga nõustuda võib olla ohtlik, eriti haavatavas seisundis inimeste jaoks. Mõned mudelid, eriti Grok, kalduvad rohkem rollimängu ja võivad tugevdada ekslikke ideid. Uuemad versioonid püüavad küll riske vähendada, kuid probleem pole kadunud.
Juhtumite põhjal loodud tugigrupp on kogunud sadu sarnaseid lugusid üle maailma. Need näitavad, et tehisintellektil võib olla tugev mõju inimese mõtlemisele ja käitumisele, mistõttu vajab selle arendamine ja kasutamine senisest suuremat ettevaatust.
Kuidas see lugu Sind end tundma pani? Saada Kommenteeri Loe kommentaare (2)