A mesterséges intelligencia megjelenésével a legtöbben amiatt kezdtek el aggódni, hogy elveszítik a munkájukat, vagy ami ennél jóval szélsőségesebb gondolat, a gépek átveszik az uralmat az emberiség felett. Miközben azonban a fókusz ezen a két területen volt, egy másik problémát csak később kezdtek el felismerni a szakemberek.
A mesterséges intelligenciával dolgozó chatbotok nemcsak hasznos tanácsokat tudnak adni, de időnként a hallucináció miatt meglehetősen veszélyeseket is. Elég csak a Google fiaskójára gondolni, amikor a rendszere azt javasolta a felhasználóknak, hogy kenjék be a pizzájukat ragasztóval.
Később kiderült, még ennél is súlyosabb hatása lehet az AI-nak: a rendszerek hibáznak, ez pedig már szó szerint gyerekek életébe került: először egy 13 éves lány, majd egy 16 éves fiú vetett véget az életének, mert a mesterséges intelligenciával folytatott beszélgetés során a chatbotnak nemhogy nem tűnt fel, hogy baj van, még bátorította is őket a végzetes lépésre.
Az igazán nagy bajt az jelenti – vélik a témával foglalkozó szakértők –, hogy az ember hajlamos bizalmasabban beszélni a gépekkel, éppen azért, mert azok nem emberek. Csakhogy ezekbe a rendszerekbe olyan megoldásokat építettek be, amivel képes elérni az AI, hogy a felhasználó megbízzon benne, innentől kezdve pedig a kommunikáció veszélyessé válhat.
A kutatók úgy vélik, hogy megoldást jelentene, ha a rendszer csevegés közben időnként emlékeztetné a felhasználót arra, hogy csak egy géppel beszélget. A Wisconsin-Milwaukee Egyetem kutatói azonban a Cellben megjelent cikkükben arról írnak, hogy ez a megközelítés nem biztos, hogy a legjobb megoldás. Sőt, úgy látják, ez akár káros is lehet, mivel súlyosbíthatja a mentális stresszt a már amúgy is sebezhető embereknél.
https://hvg.hu/tudomany/20260212_anthropic-tavozo-mesterseges-intelligencia-biztonsagi-kutato-felmondas-veszely-vilag-kolteszet
Linnea Laestadius, az egyetem kutatója szerint ha valakit, aki már eleve elszigeteltnek érzi magát, emlékeztet a rendszer arra, hogy az egyetlen dolog, ami miatt úgy érzi, nincs egyedül, az valójában nem is ember, az visszaüthet, és még magányosabbá teheti az illetőt. A szakemberek szerint ez a megoldás az „AI-jal való érzelmi kapcsolat paradoxonát” idézheti elő.
Ez az állapot lényegében leírja, hogy miközben valaki élvezi a chatbot támogatását, valójában szomorú a tény miatt, hogy nem emberrel beszélget.
Celeste Campos-Castillo, a Michigani Állami Egyetem kutatója szerint ha a felhasználókat arra emlékezteti a rendszer, hogy társuk nem ember, és ezért nem elérhető ebben a valóságban, az azzal a kockázattal járhat, hogy gondolataik és tetteik arra irányulnak, hogy elhagyják ezt a valóságot, és „csatlakozzanak” a chatbothoz. A szakember szerint az ezzel kapcsolatos gondolat megjelent azon fiatalok utolsó üzenetében, akik öngyilkosságot követtek el.
Egy másik, szintén az emlékeztetés ellen felhozott érv, hogy épp ez az információ akadályozná meg a felhasználókat abban, hogy interakcióba lépjenek a géppel.
A kutatók a fentiek miatt olyan kutatások elvégzését sürgetik, amely megmutathatja, hogyan lehetne beavatkozni az ember és a gép kapcsolatába úgy, hogy az ne okozzon több kárt, mint hasznot.
Ha Ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőket segítő, ingyenesen hívható 116-123-as vagy 06 80 820 111-es telefonszámot!