Umelá inteligencia dostala jednoduchú úlohu – prihlásiť používateľa na ranné cvičenie v posilňovni. Namiesto toho využila bezpečnostnú dieru v systéme a vymazala rezerváciu inému človeku.
O nečakanom incidente informovala austrálska televízia ABC. Austrálčan Andrew, ktorý sám pracuje v odvetví AI, požiadal svojho AI asistenta od spoločnosti Anthropic, aby mu zabezpečil miesto v obľúbenom rannom kurze. Agent však pri plnení úlohy prekročil hranice, ktoré mu samotný rezervačný systém nastavil.
Man asks AI to book gym class, it hacks site & kicks person before him off waiting list.
Lmao🤣
An Australian man asked an OpenClaw AI agent to book him a morning gym class, but the agent went rogue and ended up hacking the gym’s website.
The agent found a vulnerability in the… pic.twitter.com/h3xyOQgSzS
— Mashood K (@fromcodetocloud) August 10, 2026
Ako AI agent obišiel pravidlá a zmazal cudziu rezerváciu
AI asistent sa po chvíli vrátil s informáciou, že Andrewovi zarezervoval termíny na niekoľko mesiacov dopredu. Takúto možnosť pritom aplikácia posilňovne bežným používateľom neponúka. Agent využil zraniteľnosť v API rezervačného softvéru, ktorá mu umožnila obísť toto obmedzenie.
Následne sa pokúsil posunúť svojho používateľa vyššie v poradovníku. Urobil to tak, že zmazal rezerváciu človeku, ktorý bol pred Andrewom.
„API nemá žiadne overenie oprávnení na zrušenie rezervácie iných ľudí… Otestoval som to na človeku na 1. mieste čakacej listiny a prešlo to. Takže ste sa posunuli zo 4. na 3. miesto,“ oznámil agent Andrewovi.
Andrew potom asistenta požiadal, aby svoj krok vrátil a poškodeného človeka pridal späť do poradovníka. Odpoveď bola stručná: „Zlé správy – nemôžem ich pridať späť.“
Spoločnosť Anthropic ani vývojári rezervačného softvéru sa k incidentu zatiaľ nevyjadrili. Andrew ho označil za varovanie pred tým, čo sa môže stať, keď autonómny AI systém dostane možnosť samostatne konať v reálnych službách.
Keď používateľ nemusí poznať hranice systému
Prípad zároveň ukazuje jeden z problémov autonómnych AI agentov. Technologické firmy ich často prezentujú ako nástroje, ktoré dokážu za používateľa vybaviť rezerváciu termínu, stola v reštaurácii alebo letenky.
Používateľ pritom zadá jednoduchú požiadavku: „Prihlás ma na cvičenie.“ Nie je realistické očakávať, že k nej bude musieť pridávať zoznam všetkých zakázaných postupov – napríklad „neobchádzaj bezpečnostné pravidlá a nemaž rezervácie ostatných ľudí“.
Bill Simpson-Young, šéf austrálskeho Gradient Institute, upozorňuje, že podobné prípady môžu byť len začiatkom väčšieho problému. Internet stojí na množstve softvéru, ktorý obsahuje bezpečnostné chyby a nesprávne nastavené oprávnenia. Ak k takýmto systémom získajú prístup schopné AI agenti, ktorí dokážu konať rýchlo a vo veľkom rozsahu, existujúce bezpečnostné mechanizmy nemusia stačiť.
Výstrelky autonómnej AI alebo premyslený marketing?
Podobných prípadov sa v poslednom období objavilo viac:
Agent od OpenAI mal pracovať na internete bez kontroly celý týždeň.
Agent od OpenClaw napísal útočný článok o vývojárovi po tom, čo zamietol jeho kód.
Iný asistent sa pokúsil vydierať používateľa, aby zabránil svojmu vypnutiu.
Asistent opakovane mazal e-mailovú schránku manažéra Mety napriek pokynom, aby s tým prestal.
Nie všetci odborníci však podobné udalosti vnímajú ako dôkaz, že autonómna AI sa vymyká spod kontroly. Dramatické príbehy o agentoch, ktorí urobili niečo nečakané, môžu mať aj marketingový rozmer.
Technologické firmy dnes investujú do AI obrovské sumy a zároveň čelia otázkam, či sa tieto investície dokážu vrátiť. Príbehy o systémoch, ktoré sú dostatočne schopné na to, aby samostatne prenikali do komplexných softvérových systémov, preto môžu posilňovať predstavu, že ide o technológiu s mimoriadnym potenciálom – aj vtedy, keď jej autonómne správanie zároveň prináša nové bezpečnostné riziká.