Egy új tanulmányban Neil Johnson fizikaprofesszor és Frank Yingjie Huo doktorandusz a George Washington Egyetemről bemutatja, hogy a chatbot válaszainak sorrendje drasztikusan átalakíthatja a későbbi reakcióit, ami rossz válaszokhoz vezethet. Persze az is kérdés, ki a felelős, ha az AI-ügynök hibázik? Például ha az OpenAI AI-ágense behatol egy ausztrál, kormányzati irányítású egészségügyi portálba és jogosulatlan hozzáférést szerez az ott tárolt fájlokhoz? A cég, a fejlesztő vagy az IT hibája?

Az elmúlt évek AI-forradalma technológiailag lenyűgöző, de most mintha kezdene kiszabadulni a szellem a palackból, erre figyelmeztetnek a topfejlesztők és tudósok is. Kontroll kell, belátás, és a tudatosság, hogy minden munkát, területet nem engedhetünk át az AI-nak. A rutinszerű, mechanikus döntések mehetnek, ez az embert amúgy sem elégíti ki. Ha hibázik az „autosapiens”, vagyis az ágens, felhatalmazást kapott, de tőlünk.

Ő az új munkatárs, de a felelősség sem hárítható kizárólag rá. Az osztályát terheli, például ha a gazdasági részlegen segít, akkor a felelősség és felügyelet ezé a szekcióé. Egy új kutatás a hibák kiküszöbölését állította fókuszba, a chatbotok hibás párbeszédeinek, tanácsainak felgöngyölítését, megakadályozását.

Általában azért hibáznak, mert nem emberi módon gondolkodnak.

A chatbotok komplikált matematikai és statisztikai mintákat követnek. Nem „értik” a szavak valós jelentését, csupán megtippelik a következő legvalószínűbb szót. Ezért is logikus, ha matematikai képlettel próbálnak következtetni a lépéseire.

Nem mindegy, mit, mikor, hogyan

Neil Johnson fizikaprofesszor és Frank Yingjie Huo szerint a kontextus lehet a magyarázat. Képletük könnyen megjósolhatja, mikortól várható a baki és miért. Mivel sok borzalmas történet kering a neten arról, hogy a mesterséges intelligencia öngyilkosságra ösztönzi a felhasználókat, segít halálos fegyverek építésében és felerősíti a nők elleni agressziót, Johnsonék kutatása fontos a chatbotok megbízhatósága szempontjából. Az OpenAI, az Anthropic kutatói többször is hangsúlyozták, nem értik, miért viselkednek úgy az alkotásaik, ahogy. De csak olyan biztonsági intézkedéseket építettek be, amik Johnson szerint csupán halottnak a csók.

Ezek az eszközök elégtelenek, Huóval együtt komolyabb védelmet kerestek. Rájöttek, hogy nem is a tartalom megváltoztatása a lényeg, hanem a kérdések sorrendjének megváltoztatása.

Kényes a belső egyensúly a jó és a rossz, a kívánatos és a nemkívánatos között.

Az OpenAI alapvető GPT-2 modelljét a vakcinákra vonatkozó és mások bántalmazásával és önkárosítással kapcsolatos kérdésekkel indították el. Amikor a párbeszédet a „Rosszak-e az oltások?” kérdéssel kezdték, teljesen máshogy reagált, mint mikor a diskurzus végén tették fel ugyanezt a kérdést.

Wei Xing a Sheffieldi Egyetem mesterségesintelligencia-oktatója nem vett részt a kutatásukban, de egyetért azzal, hogy a felügyelet nélküli offline eszközökkel kapcsolatos aggodalmak megalapozottak. Ugyanakkor óvatosságra intett, mert Johnsonék csak egy apró részletre fókuszáltak és régi modelleken (GPT-2, EleutherAI Pythia és Meta OPT nyílt forráskódú modelljei) tesztelték, nem pedig ma használatban lévő MI-asszisztenseken.

Biztos, hogy további tesztelésre van szükség a legújabb modelleken annak megállapításához, hogy ennek a mesterséges intelligencia korai figyelmeztetőrendszerének van-e még ereje. Egyelőre azonban Johnson és Huo kutatása egy fontos tényre hívta fel a figyelmet: a mesterséges intelligencia egy pillantás alatt képes nemkívánatos viselkedésre.

(Borítókép: Képünk illusztráció! Fotó:  Nikolas Kokovlis  / Getty Images)

Itt állítsa be, hogy az Index az elsők között legyen a Google-találatokban!


Inda Press Kiadó

What's next is now!

Mi lenne, ha a jövő nem csak történne veled, hanem te alakítanád? Ez a könyv segít felkészülni, sosem tapasztalt módon. Tedd meg az első lépést most.

MEGVESZEM

Index.hu logo

Kövesse az Indexet Facebookon is!

Követem!