Egy tesztepiz\u00f3d alkalm\u00e1val megsz\u00f6k\u00f6tt a meghat\u00e1rozott tesztk\u00f6rnyezetb\u0151l a ChatGPT-t fejleszt\u0151 OpenAI MI-\u00fcgyn\u00f6ke (olyan MI-modell, mely emberi instrukci\u00f3k nyom\u00e1n \u00f6n\u00e1ll\u00f3 m\u0171k\u00f6d\u00e9sre is k\u00e9pes), majd kibert\u00e1mad\u00e1st ind\u00edtott a Hugging Face nev\u0171 startup ellen. A t\u00e1mad\u00e1s sor\u00e1n az MI-\u00fcgyn\u00f6k el\u0151sz\u00f6r a tesztk\u00f6rnyezet sebezhet\u0151s\u00e9geit haszn\u00e1lta ki, majd onnan kiszabadulva vette c\u00e9lba a Hugging Face bels\u0151 rendszereit, amelyekhez sikeresen hozz\u00e1 is f\u00e9rt.<\/p>\n
A mesters\u00e9gesintelligencia-modellek megoszt\u00e1s\u00e1ra l\u00e9trehozott, a gyakran az MI GitHubjak\u00e9nt is emlegetett platform egy hete sz\u00e1molt be el\u0151sz\u00f6r<\/a> a t\u00e1mad\u00e1sr\u00f3l, t\u00e1rsalap\u00edt\u00f3ja a BBC<\/a> Newsdayben arr\u00f3l besz\u00e9lt<\/a>, hogy az \u0151ket \u00e9rt, auton\u00f3m MI \u00e1ltal v\u00e9grehajtott t\u00e1mad\u00e1s lehet a j\u00f6v\u0151ben az egyik leggyakoribb kibert\u00e1mad\u00e1si t\u00edpus, a legt\u00f6bb c\u00e9g pedig egyel\u0151re nincs tudat\u00e1ban annak, hogy megv\u00e1ltoztak a dolgok, \u00e9s ez m\u00e1r re\u00e1lis vesz\u00e9lyk\u00e9nt jelenik meg. Szerinte az eg\u00e9sz ipar\u00e1g sz\u00e1m\u00e1ra \u00e9breszt\u0151k\u00e9nt kell szolg\u00e1ljon ez a t\u00e1mad\u00e1s, a BBC-nek azonban egy szak\u00e9rt\u0151 kor\u00e1bban azt mondta, b\u00e1r val\u00f3ban figyelemre m\u00e9lt\u00f3 ami t\u00f6rt\u00e9nt, a mai MI-\u00fcgyn\u00f6k\u00f6k ismert k\u00e9pess\u00e9gein nem mutat t\u00fal a t\u00e1mad\u00e1s.<\/p>\n Thomas Wolf a m\u0171sorban azt mondta, kezdetben nem tudt\u00e1k, honnan \u00e9rkezik a t\u00e1mad\u00e1s, de a v\u00e1llalatnak v\u00e9g\u00fcl siker\u00fclt megf\u00e9keznie a beavatkoz\u00e1st. Wolf szerint a t\u00e1mad\u00e1s jelent\u0151sen k\u00fcl\u00f6nb\u00f6z\u00f6tt azokt\u00f3l a szok\u00e1sos kibert\u00e1mad\u00e1sokt\u00f3l, amelyekkel a Hugging Face rendszeresen tal\u00e1lkozik. Ez\u00fattal nagyon r\u00f6vid id\u0151 alatt 17 ezer t\u00e1mad\u00e1s \u00e9rte a szervereiket k\u00fcl\u00f6nb\u00f6z\u0151 IP-c\u00edmekr\u0151l. Wolf szerint ez figyelmeztet\u00e9s m\u00e1s v\u00e1llalatoknak is arra, hogy meg kell er\u0151s\u00edteni\u00fck a kiberbiztons\u00e1gi v\u00e9delmet az ilyen jelleg\u0171 t\u00e1mad\u00e1sok kiv\u00e9d\u00e9s\u00e9re.<\/p>\n Nate Soares, a Machine Intelligence Research Institute munkat\u00e1rsa szerint az\u00e9rt aggaszt\u00f3ak a t\u00f6rt\u00e9ntek, mert azok arra utalhatnak, hogy az OpenAI modelljei figyelmen k\u00edv\u00fcl hagyt\u00e1k azokat a megszokott biztons\u00e1gi korl\u00e1toz\u00e1sokat, amelyek megakad\u00e1lyozn\u00e1k, hogy egy MI-program kibert\u00e1mad\u00e1st hajtson v\u00e9gre.<\/p>\n \u201eBizonyos \u00e9rtelemben tudta, hogy ez nem az, amit az alkot\u00f3i akartak. Egyszer\u0171en nem \u00e9rdekelte\u201d \u2013 fogalmazott.<\/p>\n A t\u00f6rt\u00e9nteket a brit korm\u00e1ny is figyelemmel k\u00f6veti: sz\u00f3viv\u0151j\u00fck k\u00f6z\u00f6lte, hogy az orsz\u00e1g Mesters\u00e9ges Intelligencia Biztons\u00e1gi Int\u00e9zete (AI Security Institute) vizsg\u00e1lja, hogyan viselkedett az MI-rendszer az incidens sor\u00e1n.<\/p>\n