Tanulságos, és kissé szórakoztató történetet osztott meg az X-en Summer Yue, a Meta szuperintelligencia-részlegének biztonsági igazgatója. Egy automatizált AI-ügynök ugyanis minden kérése ellenére teljesen kisöpörte az e-mail-fiókjának beérkezett üzenetek mappáját.
Mint a Gizmodo kifejti, a jelen történet középpontjában lévő OpenClaw az AI-használók körében egy rendkívül népszerű nyílt forráskódú AI-ügynök lett, dacára annak, hogy hemzseg a nyilvánvaló és aggasztó biztonsági résektől.
Summer Yue is kipróbálta: beállított egy Mac Mini számítógépet az ügynök futtatására, majd hozzáférést adott neki a beérkező leveleihez. A többi már gyakorlatilag történelem.
A szakember elmondta: amikor látta, mire készül az OpenClaw, mobilról nem tudta megállítani, így úgy rohant a Mac Minihez, „mintha bombát hatástalanítana”. Pedig úgy lett betanítva az eszköz, hogy kérjen megerősítést a cselekedetei előtt.
https://x.com/summeryue0/status/2025774069124399363
Yue képernyőképeket is megosztott az engedetlen eszközről, és valóban: az AI látszólag elszabadul, és minden kérlelés ellenére törölni kezdi az e-maileket. Végül már az OpenClaw leállítására küld parancsot a szakember, ami szintén nem jár sikerrel.
https://hvg.hu/tudomany/20260218_meta-instagram-gyerekvedelmi-funkciok-hatasa-kutatas-per
Mint a Gizmodo kiemeli, Yue később „kezdő hibának” nevezte a történteket, bár felvet kérdéseket, hogy az egyik legnagyobb technológiai vállalat AI-szakembere – akinek az a feladata, hogy a rendszerek megfelelően működjenek – olyan hibákat követ el, mint egy kezdő.
Tanulságnak azonban nem rossz a történet: ne bízza a dolgokat egy olyan AI-ra, aminek fogalma sincs arról, hogy mi a fontos – ráadásul olykor látványosan fittyet hány arra, hogy mit kérnek tőle.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.