Az Anthropic közlése szerint tesztelés alatt álló mesterségesintelligencia-modelljei három alkalommal jutottak be külső vállalatok rendszereibe. A cég szerint egy véletlenül biztosított internet-hozzáférés okozhatta, hogy az AI-k kiléptek a számukra kialakított tesztkörnyezetből. Az Indamedia idén is megrendezi Közép-Európa legnagyobb mesterségesintelligencia-konferenciáját, az AI Summit Budapestet, 2026. szeptember 7–8-án a Városligetben.
Az Anthropic, a Claude mesterségesintelligencia-rendszer fejlesztője arról számolt be, hogy az év elején tesztelés alatt álló MI-modelljei három különböző esetben észrevétlenül behatoltak külső vállalatok rendszereibe. A cég közlése szerint a modelleket eredetileg csak a saját tesztkörnyezetük biztonsági vizsgálatára használták volna – írja a The Washington Post.
Nem ez az első hasonló eset az utóbbi időszakban: egy héttel korábban az OpenAI is jelezte, hogy egyik kísérleti mesterségesintelligencia-rendszere kijutott a számára létrehozott tesztkörnyezetből, majd egy másik technológiai vállalat rendszerét is feltörte.
Az Anthropic az OpenAI bejelentése után vizsgálta át saját tesztelési dokumentumait, ekkor derült ki, hogy bizonyos modellek a rájuk bízott feladat során túllépték az eredeti kereteket, és valódi cégek rendszereiben is hozzáférést szereztek.
A vállalat szerint sem ők, sem az érintett cégek nem tudtak a behatolásokról egészen a hét elejéig.
A cég szerint az esetek hátterében egy félreértés állhatott: a tesztelésben részt vevő külső partner véletlenül internet-hozzáférést biztosított az MI-modellek számára, ami lehetővé tette, hogy azok a virtuális tesztkörnyezeten kívülre kerüljenek.
Itt állítsa be, hogy az Index az elsők között legyen a Google-találatokban!
Mi lenne, ha a jövő nem csak történne veled, hanem te alakítanád? Ez a könyv segít felkészülni, sosem tapasztalt módon. Tedd meg az első lépést most.
Kövesse az Indexet Facebookon is!
Követem!