Foto: REUTERS
„Anthropic“ vadovas Dario Amodei publikavo išsamų politinį manifestą „Policy on the AI Exponential“, kuriame perspėja, kad dabartinis dirbtinio intelekto (DI) reguliavimo procesas atsilieka nuo realios technologijų pažangos mažiausiai vienais metais.
Autoriaus teigimu, DI nėra tiesiog dar viena naudotojų saugumo reikalaujanti sritis – tai technologija, kuri fundamentaliai keičia geopolitiką, kas prilygsta branduolinio ginklo atsiradimui.
D. Amodei išskiria penkis esminius politinius ramsčius, kuriais valstybės privalo vadovautis, kad suvaldytų technologijos augimą ir išvengtų katastrofinių padarinių.
1. Privalomas testavimas ir teisė blokuoti DI modelius
Autorius siūlo pereiti nuo savanoriškų technologijų kompanijų pažadų prie griežtos valstybinės kontrolės. Visas DI modelių kūrimas, viršijantis tam tikrą skaičiavimo galios (compute threshold) ribą, privalo būti tikrinamas nepriklausomų trečiųjų šalių.
Testavimas turėtų būti vykdomas keturiose kritinėse srityse: kibernetinis saugumas, biologiniai ginklai, kontrolės praradimas (autonominis sistemos elgesys) ir automatizuoti tyrimai (DI gebėjimas kurti kitus pavojingus DI įrankius).
Jei modelis neatitinka saugumo reikalavimų, vyriausybei turi būti suteikta teisė visiškai uždrausti arba sustabdyti jo diegimą rinkoje.
2. Ekonomika: darbo vietų praradimas ir mokesčių politika
Dario Amodei tiesiogiai pripažįsta, kad spartus pažangiausių DI sistemų diegimas versle neišvengiamai lems masišką darbuotojų išstūmimą iš darbo rinkos. Jis ragina politikus aiškiai atskirti dvi problemas: ekonominį aprūpinimą (kaip užtikrinti žmonių pajamas) ir gyvenimo prasmę praradus darbą.
Finansinei apsaugai siūloma ruošti specialias mokesčių bei socialines programas, kurios absorbuotų DI sukeltus ekonominius sukrėtimus.
3. Teigiamo poveikio spartinimas ir reguliavimo kamščiai
Nors akcentuojamas saugumas, manifestas perspėja apie kitą riziką – biurokratinius kamščius. Dirbtinis intelektas pagreitins pasiekimus biomedicinoje, medžiagų moksle ir energetikoje.
Tačiau jei valstybinės priežiūros institucijos (pavyzdžiui, vaistų patvirtinimo agentūros) dirbs senuoju ritmu, jos tiesiog užsikimš nuo DI sugeneruotų kandidatų ir inovacijų kiekio.
Reguliavimo sistemos turi būti pritaikytos veikti automatizuotai ir greitai.
4. Valstybės galia ir piliečių teisės
D. Amodei pabrėžia, kad pažangus DI negali būti saugiai patikėtas nei vienvaldėms vyriausybėms, nei privačioms korporacijoms be abipusės kontrolės mechanizmų. Jis reikalauja užverti teisinius plyšius, leidžiančius duomenų brokeriams pardavinėti naudotojų informaciją, ir įtvirtinti piliečių teisę teisėtai naudoti DI įrankius gynybai nuo valstybės institucijų igaliojimų viršijamo.
5. Demokratinių šalių koalicija ir mikroschemų kontrolė
Geopolitiniame lygmenyje DI svarba prilyginama branduoliniam arsenalui. Dario Amodei ragina kurti stiprią demokratinių šalių koaliciją, kuri laisvai dalintųsi puslaidininkių gamybos įranga bei mikroschemomis tarpusavyje, tačiau griežtai ribotų prieigą strateginiams varžovams (pirmiausia – Kinijai).
JAV įvesta eksporto kontrolė pažangiausiems lustams turi būti plečiama ir koordinuojama tarptautiniu mastu.
Manifesto idėjos virto realybe: JAV vyriausybė pritaikė „Anthropic“ kompanijai paties autoriaus siūlytą „raudonąjį mygtuką“
Šis D. Amodei manifestas įgijo netikėtą posūkį realybėje. Praėjus vos porai dienų po šio teksto publikavimo, JAV vyriausybė, remdamasi būtent nacionalinio saugumo ir eksporto kontrolės institucijomis, priėmė skubų vienašališką sprendimą ir uždraudė prieigą užsienio piliečiams prie dviejų naujausių bei pažangiausių paties D. Amodei vadovaujamos kompanijos modelių – „Claude Fable 5“ ir „Claude Mythos 5“.
Tokiu būdu JAV valdžia praktikoje pademonstravo manifesto autoriaus aprašytą principą, kad vyriausybė privalo turėti teisę blokuoti komercinių modelių diegimą, o pati „Anthropic“ buvo priversta staiga išjungti šias sistemas šimtams milijonų vartotojų visame pasaulyje.
Apie tai kompanija pranešė vakar, birželio 12 d. griežtai protestuodama prieš tokį vienašališką vyriausybės elgesį.