JAV Nacionalinė saugumo agentūra (NSA) naudoja naujausią dirbtinio intelekto kompanijos „Anthropic“ modelį „Claude Mythos“ puolamosioms kibernetinėms operacijoms vykdyti.
Šis faktas, kurį atskleidė leidinio „Financial Times“ tyrimas, visiškai dekonstruoja viešas Silicio slėnio deklaracijas apie kuriamą „saugų ir etišką“ dirbtinį intelektą.
Kol bendrovės vadovai viešuose pranešimuose dalijasi akademiniais nuogąstavimais dėl rizikos prarasti DI kontrolę, už uždarų durų technologijų milžinė pasirašė paktą su JAV karine žvalgyba.
Inžinieriai tiesiai į NSA būstinę
Kaip praneša „Financial Times“ ir „Axios“, „Anthropic“ į JAV Nacionalinę saugumo agentūrą išsiuntė maždaug pusę tuzino savo specialistų. Šie vadinamieji priešakinių pajėgų inžinieriai (angl. forward-deployed engineers) dirba tiesiogiai žvalgybos institucijoje, kur jų pagrindinė užduotis – pritaikyti ir konfigūruoti modelį „Claude Mythos“ specifinėms, konkrečioms karinėms operacijoms.
„Claude Mythos“ rinkai buvo pristatytas visai neseniai – šių metų balandį. Modelis išskirtinio dėmesio technologijų sektoriuje sulaukė dėl savo specifinių techninių gebėjimų: jis geba itin efektyviai rasti ir išnaudoti programinės įrangos pažeidžiamumus bei saugumo spragas.
Šią savaitę „Anthropic“ paskelbė išplečianti prieigą prie šio modelio 150-čiai organizacijų 15-oje šalių, nors pirminiame etape jis buvo prieinamas tik itin ribotam subjektų ratui JAV ir Jungtinėje Karalystėje.
Oficialiai taikinyje – Kinija ir Iranas
„Financial Times“ šaltinių teigimu, galingiausias „Anthropic“ įrankis NSA rankose yra tiesiogiai orientuotas į skaitmeninį įsiskverbimą į kitų valstybių tinklus. Kaip pagrindiniai puolamųjų operacijų taikiniai įvardijamos Kinija ir Iranas.
Žvalgybos atstovai gynyboje naudoja argumentą, jog efektyvūs puolimo įrankiai padeda sukurti ir geresnę gynybą, tačiau pats faktas liudija apie tiesioginį DI įkinkymą į tarptautinį geopolitinį konfliktą.
Šis kontekstas sutampa su dar vasario mėnesį pasirodžiusiais pranešimais apie Pentagono planus kurti specialius DI įrankius, skirtus identifikuoti kritinės infrastruktūros taikinius Kinijoje, ruošiantis galimiems ateities kariniams susirėmimams.
Teisinis mazgas ir kapituliacija
Šis bendradarbiavimas vyksta fone, kuris atidengia visišką „Anthropic“ pirminės strategijos kapituliaciją. Kompanija jau kurį laiką teismuose kovoja prieš Pentagoną (kuris prižiūri NSA) dėl jai suteikto „tiekimo grandinės rizikos“ (angl. supply chain risk) statuso.
Anksčiau „Anthropic“ bandė teisiškai riboti JAV vyriausybės galimybes naudoti jos kuriamus modelius masiniam piliečių sekimui bei autonominėms kovinėms sistemoms. Reaguodamas į tokius suvaržymus, Pentagonas priskyrė bendrovę prie rizikingų tiekėjų, o tai tiesiogiai kirto per pelningas sutartis su institucijomis, bendradarbiaujančiomis su JAV kariuomene.
Kol teisiniai ginčai tęsiasi, o Baltieji rūmai spaudžia šį konfliktą kuo greičiau išspręsti, „Anthropic“ faktiškai kapituliavo: patyliukais integravo savo inžinierius į NSA ir leido galingiausią modelį naudoti būtent puolamajam karui.
Rekursyvaus tobulėjimo paradoksas: agresija kaip nauja logika
Pati „Anthropic“ neseniai išplatino analizę apie DI rekursyvųjį savęs tobulinimą (angl. recursive self-improvement), kur džiaugėsi, kad inžinieriai dėka DI pagalbos dabar rašo 8 kartus daugiau kodo nei anksčiau. Pranešime buvo perspėjama apie riziką, kad ateities DI sistemos, kurios pačios kurs ir treniruos savo įpėdinius, „gali tapti nebekontroliuojamos žmonių“.
Tačiau į šią lygtį įstačius NSA faktą, situacija virsta distopija. Kai autonominis agentas yra programuojamas ir maitinamas puolamųjų operacijų duomenimis – kaip apgauti gynybą, infiltruotis ir naikinti – šie principai tampa fundamentalia sistemos logikos dalimi. Kai procesas taps visiškai autonomiškas, DI naujas versijas optimizuos ne pagal siaurus etinius rėmus, o pagal tai, kas efektyviausia išlikimui ir užduoties įvykdymui agresyvioje aplinkoje.
Reguliavimo aklavietė
JAV politiniame lygmenyje situacija taip pat išlieka nestabili. Baltieji rūmai aktyviai svarstė specialų vykdomąjį potvarkį, kuris įpareigotų vykdyti savanorišką naujų DI modelių peržiūrą prieš juos paleidžiant į rinką.
Tačiau šis procesas buvo atidėtas, kai Silicio slėnio technologijų milžinės ir rizikos kapitalo fondai sukėlė masinį pasipriešinimą, argumentuodami, kad bet koks išorinis reguliavimas stabdys JAV progresą ir leis šioje technologinėje kovoje laimėti Kinijai.
Tiek „Anthropic“ vadovybė, tiek JAV Gynybos departamentas pateiktą informaciją komentuoti oficialiai atsisakė.