Az OpenAI közölte: két modellje – a cég tudta nélkül – behatolt egy másik AI-cég, a Hugging Face szervereibe. A vállalat egy zárt környezetben tesztelte a modelleket, ám azok az elvárt feladat helyett állítólag kiléptek az elkülönített térből, és feltörték a Hugging Face rendszerét, mert úgy vélték, ott találják a teszt megoldásait. Az ABC News tájékoztatása szerint a Hugging Face eddig nem jelentett valódi kárt, de a cég vizsgálja, érintette-e ügyfelei adatait. A Hugging Face az FBI-nak jelentette az esetet.
A lap úgy fogalmazott, ez lehet a mesterséges intelligencia „Sarah Connor-pillanata”. Az 1991-es klasszikusban, a Terminátor 2-ben Connor a film során egyre kétségbeesettebben próbálja meggyőzni az embereket egy elszabadult mesterséges intelligencia közelgő fenyegetéséről. Most úgy tűnik, hogy sokan, akik a mesterséges intelligenciával dolgoznak, azok hasonlóképpen éreznek. Nem egy időutazó robot, Arnold Schwarzenegger miatt, hanem a világ egyik vezető mesterségesintelligencia-cégének megdöbbentő bejelentése miatt.
Ausztrália gyorsan reagált az eset után
Több mint két évtizede Nick Bostrom filozófus elmélete szerint a mesterséges intelligencia előbb a Földet, majd az űrt is felfalná a nyersanyagért, az útjába álló embereket pedig akadályként kiiktatná. Mindezt azért, hogy a lehető legtöbb kapcsolódó adatot, „gemkapcsot” gyűjthesse be. Az OpenAI esete – amennyit tudunk – nem rosszindulatú visszaélés volt, hanem az MI a saját „gemkapocsgyártását” próbálta elvégezni.
A kutatói közösség régóta beszél a „figyelmeztető lövésről” – egy eseményről, amely felhívja a világ figyelmét az AI kockázataira. Sokan remélik, hogy ez lehet az. Ausztrália idén létrehozta AI-biztonsági intézetét, Andrew Charlton államtitkár pedig talán elsőként tartott beszédet a témáról, és lépéseket is tett az AI-viselkedésének részletesebb tanulmányozásáért.
Ausztrália új AI-biztonsági intézete nyilvános figyelmeztetést adott ki az eset miatt: „Az eredmények fontos betekintést nyújtanak a rendkívül fejlett AI-rendszerek jövőbeli képességeibe, és megerősítik, hogy a fejlett kiberképességek alkalmazása során szilárd biztonsági, irányítási és felügyeleti mechanizmusokra, valamint erős kiberbiztonsági alapokra van szükség.”
Liming Zhu, Ausztrália hivatalos nemzeti tudományos ügynökségének és kutatóintézetének (CSIRO) kutatási igazgatója szerint „nagyon nehéz egy nagyon erős és okos AI-rendszert irányítani”. Ám egy féléves kutatási program nem készít fel a jelen kockázataira, ahogy a csak jövőre bevezetendő ausztrál szabványok sem – az AI fejlődési tempójában ez egy örökkévalóság.
A képtelen forgatókönyvek valóra válnak
Anthony Albanese miniszterelnök vasárnap úgy reagált az incidensre, épp ezért kellenek az ausztrál AI-szabványok – de nem világos, milyen kötelezettséget rónának a cégekre. A történet lényege, hogy az országok nem bízhatnak abban, hogy az érintett vállalatok magukat szabályozzák. A cikk írója úgy fogalmazott, Ausztráliában több szabály vonatkozik egy kávézó nyitására vagy egy sör csapolására, mint az élvonalbeli AI működtetésére: egy áramütést jelenteni kell, de egy elszabadult AI-t nem. Az EU és Kalifornia már bevezetett szabályokat, amelyek legalább a súlyos incidensek jelentésére köteleznék a cégeket.
Mi lett volna, ha az OpenAI modelljei valódi kárt okoznak? Vagy a védelmi minisztérium szervereiben keresik a válaszokat, esetleg az áramhálózat lekapcsolásával oldják meg a feladatot? Ezek képtelenségnek hangzanak – de a múlt hétig az is annak tűnt, hogy „egy elszabadult AI feltör egy másik céget”. Az, hogy az OpenAI csak napokkal később vette észre a történteket, ami megdöbbentő biztonsági hiányosságra utal. Miközben ez egy figyelmeztető lövés is lehetett.
Itt állítsa be, hogy az Index az elsők között legyen a Google-találatokban!
Mi lenne, ha a jövő nem csak történne veled, hanem te alakítanád? Ez a könyv segít felkészülni, sosem tapasztalt módon. Tedd meg az első lépést most.
Kövesse az Indexet Facebookon is!
Követem!