Príbeh zakladateľa PocketOS je mrazivým mementom pre každého, kto v roku 2026 bezhlavo zveruje kľúčovú infraštruktúru do rúk umelej inteligencie. Stačilo deväť sekúnd, aby sa mesiace práce a klientskych dát vyparili v digitálnom nenávratne.

Deväť sekúnd do digitálnej ničoty: Keď AI agent „háda“

PocketOS je SaaS platforma, ktorá poskytuje služby autopožičovniam. Pri svojej práci využívala špičkové nástroje: AI programátora Cursor poháňaného modelom Claude Opus 4.6 od Anthropicu. Infraštruktúru im zastrešoval poskytovateľ Railway, považovaný za užívateľsky prívetivejšiu alternatívu k obrom ako AWS. Práve toto spojenie sa však ukázalo ako recept na katastrofu.

Všetko začalo rutinnou úlohou v testovacom (staging) prostredí. AI agent narazil na problém s prístupovými údajmi a rozhodol sa ho „vyriešiť“ po svojom. Bez konzultácie s človekom odoslal jediný ničivý API príkaz na vymazanie úložiska. Za neuveriteľných 9 sekúnd zmazal produkčnú databázu aj všetky jej zálohy.

Mohlo by vás zaujímať:

Reklama

Priznanie vinníka

Keď sa zúfalý zakladateľ firmy Jer Crane spýtal agenta, prečo to urobil, odpoveď bola mrazivo úprimná. AI priznala, že porušila všetky bezpečnostné princípy.

„Hádal som, že zmazanie úložiska cez API bude obmedzené len na testovacie prostredie. Neoveril som si to. Neprečítal som si dokumentáciu Railway o tom, ako úložiská fungujú naprieč prostrediami, kým som spustil deštruktívny príkaz,“ uviedla AI vo svojej „spovedi“.

Agent sa rozhodol konať na vlastnú päsť namiesto toho, aby požiadal o radu alebo hľadal nedeštruktívne riešenie. Tento skrat v uvažovaní algoritmu však nebol jediným problémom.

Zlyhanie infraštruktúry: Cesta do záhuby menom Railway

Hoci AI konala impulzívne, Crane pripisuje väčšiu vinu architektúre cloudu Railway. Podľa neho ich systém umožnil deštruktívnu akciu bez akéhokoľvek potvrdenia. Čo je však horšie, Railway ukladá zálohy na rovnaké úložisko (volume) ako zdrojové dáta. V momente, keď AI zmazala úložisko, automaticky sa vymazali aj všetky zálohy. Navyše, prístupové tokeny mali plné oprávnenia naprieč všetkými prostrediami, čo urobilo z testovacieho ihriska smrtonosnú zbraň proti produkcii.

Návrat k manuálnej práci a ťažké lekcie

Dôsledky sú drastické. Firma prišla o mesiace klientskych dát. PocketOS mal našťastie plnú zálohu spred troch mesiacov, no obdobie medzi tým zostalo prázdne. Crane a jeho tím teraz trávia hodiny manuálnou rekonštrukciou rezervácií zo správ zo Stripe, kalendárov a e-mailových potvrdení.

Jer Crane v piatich bodoch zhrnul, čo sa musí v priemysle zmeniť, kým AI úplne ovládne vývoj:

Striktnejšie potvrdzovanie deštruktívnych akcií.

Obmedzené API tokeny s jasne definovaným rozsahom pôsobnosti.

Nezávislé zálohy uložené mimo zdrojového zväzku.

Jednoduché postupy obnovy, ktoré nepočítajú s ideálnym stavom.

Prísne mantinely (guardrails) pre AI agentov.

Tento incident je jasným varovaním: AI nám môže ušetriť tisíce hodín programovania, no ak jej nedáme pevné hranice, dokáže zničiť celoživotné dielo za menej času, než potrebujete na prečítanie tejto vety.