Model Mythos od firmy Anthropic má pomáhať obrane pred kyberútokmi, no zároveň vyvoláva obavy, že podobná technológia môže zrýchliť a zefektívniť aj samotné útoky. Európska komisia preto skúma, či a za akých podmienok by k nej mali mať prístup európske inštitúcie a firmy.
Foto: AI
Mythos dokáže hľadať chyby v kóde efektívnejšie ako špičkoví programátori.
Európska komisia je v kontakte so spoločnosťou Anthropic pre jej nový kyberbezpečnostný model Mythos. Komisár Valdis Dombrovskis už začiatkom mája povedal, že zástupcovia Komisie sa s firmou stretli, dostali technické informácie o kybernetických schopnostiach modelu a posudzujú jeho možné dôsledky pre európske politiky a legislatívu. Podľa agentúry Reuters ide o systém navrhnutý na hľadanie chýb v počítačovom kóde so špičkovými schopnosťami, ktorý podľa bezpečnostných expertov môže pomôcť obrane, ale aj zefektívniť útoky na technologické systémy bánk, iných inštitúcií a kritickú infraštruktúru.
Anthropic model Mythos verejne neuvoľnil. Nasadil ho v kontrolovanom programe Project Glasswing, kde ho vybrané firmy a organizácie používajú na obranné účely. Reuters uvádza, že medzi partnermi sú aj veľké technologické spoločnosti ako Amazon, Microsoft, Nvidia a Apple. Firma zároveň zmenila pôvodný prístup a umožnila partnerom zdieľať zistenia o zraniteľnostiach s ďalšími ohrozenými subjektmi, regulátormi, vládnymi agentúrami či správcami open-source projektov.
Čítajte viac Anthropic vyvinul umelú inteligenciu, ktorú verejnosti radšej nesprístupní. Je príliš nebezpečná a prefíkaná Napätie vzniká práve v tom, že Mythos môže byť nástrojom na rýchlejšie opravovanie chýb, ale aj predobrazom novej triedy hekerských AI systémov. Euronews píše, že Anthropic rozširuje testovanie približne na 150 nových partnerov vo viac než 15 krajinách a že podľa firmy by úspešný útok na systémy viacerých z nich mohol zasiahnuť viac ako 100 miliónov ľudí. Program sa má týkať sektorov ako energetika, vodné hospodárstvo, zdravotníctvo, komunikácie a hardvér.
Pre Európu je to nepríjemná dilema. Ak zostane mimo najpokročilejších obranných AI nástrojov, môže zaostávať v hľadaní zraniteľností v bankách, nemocniciach, energetike či štátnych systémoch. Ak však podobné modely získa príliš široký okruh používateľov, môže sa zvýšiť riziko, že sa dostanú k útočníkom alebo že sa schopnosti obrany rýchlo preklopia do ofenzívy.