Klausykite Jums patogiu metu – prenumeruokite podcast’ą:

Dirbtinio intelekto sistemai pradėjus veikti ne taip, kaip numatyta, teoriškai galima atimti jos prieigą prie kompiuterinių išteklių ir ją sustabdyti. Tačiau vieno „avarinio mygtuko“, galinčio išjungti visą pasaulyje veikiantį dirbtinį intelektą, nėra, o ekspertai perspėja, kad technologijai tampant vis savarankiškesnei jos sustabdymas gali būti gerokai sudėtingesnis.

D 20260918 162747 500Mile Atanasov / Alamy

Diskusijos dėl tokio „avarinio išjungimo“ mechanizmo pastarosiomis savaitėmis vėl suaktyvėjo technologijų kūrėjams ir mokslininkams viešai kalbant apie sparčiai tobulėjančių DI sistemų keliamas rizikas. Vienas iš „Anthropic“ vadovų taip pat yra iškėlęs idėją, kad DI sistemoms gali prireikti privalomų avarinio sustabdymo mechanizmų.

Tačiau ką toks mygtukas iš tikrųjų išjungtų?

Vieno mygtuko visam DI nėra

Toronto universiteto kompiuterinio saugumo ir dirbtinio intelekto specialistas profesorius Nicolas Papernot aiškina, kad kibernetinio saugumo srityje vadinamasis „kill switch“ reiškia galimybę nutraukti DI agento atliekamus veiksmus.

Paprasčiausiu atveju organizacija, valdanti DI sistemą, galėtų ją sustabdyti atimdama prieigą prie skaičiavimo išteklių, kurių reikia sistemai veikti.

Problemos prasideda tuomet, kai DI suteikiama galimybė veikti už pradinės, operatoriaus kontroliuojamos aplinkos ribų. N. Papernot pateikia pavyzdį, kai DI būtų panaudotas savarankiškai besidauginančiai kenkėjiškai programai. Jeigu ji pasklistų skirtinguose įrenginiuose, nebepakaktų išjungti vieno serverio. „Tokiu atveju turėtume vienu metu nutraukti visų tokios programos sukurtų kopijų veiklą – įrenginys po įrenginio“, – AFP sakė N. Papernot.

„Išjungti DI“ nėra tas pats, kas išjungti vieną sistemą

Prancūzijos nacionalinio mokslinių tyrimų centro CNRS dirbtinio intelekto ekspertas Thierry Poibeau sako, kad įsivaizdavimas apie vieną mygtuką, kuriuo žmonija galėtų išjungti DI, yra klaidinantis.

„Iš tikrųjų negalima tiesiog taip paprastai išjungti DI. Pasaulyje yra milžiniškas skaičius įmonių ir įvairiausių programinės įrangos bei paslaugų. Nėra nė vieno asmens, kuris kontroliuotų DI kaip visumą“, – aiškino jis. Vis dėlto konkrečią DI sistemą techniškai galima sustabdyti, jeigu jos operatorius kontroliuoja kompiuterius, serverius ir paslaugas, nuo kurių sistema priklauso.

Naujojo Pietų Velso universiteto Kanberoje profesorius Husseinas Abbassas išskiria kelis tokios kontrolės lygius. Paprasčiausia situacija – kai DI sistema veikia tik operatoriaus kontroliuojamoje aplinkoje. Tuomet avarinis jos sustabdymas yra techniškai įmanomas.

Sudėtingiau tampa tada, kai DI agentui leidžiama valdyti kitą programinę įrangą, failus ar kompiuterius. Jei sistema išplečia savo veiklą per daugelį kitų sistemų, tenka spręsti jau ne vien klausimą, kaip išjungti patį DI, bet ir kokias jo pasiektas sistemas būtina atjungti pirmiausia.

Išjungimas pats gali sukelti problemų

Yra ir kita šios problemos pusė. Kuo daugiau kasdienio gyvenimo sričių priklausys nuo DI, tuo skaudesnės gali būti pasekmės bandant tokias sistemas skubiai sustabdyti.

DI jau naudojamas versle, viešajame sektoriuje, sveikatos priežiūroje ir kitose srityse. Todėl plataus masto skaičiavimo infrastruktūros atjungimas galėtų sustabdyti ne tik pavojingą sistemą, bet ir daugybę teisėtų paslaugų.

N. Papernot teigimu, realaus kontrolės praradimo atveju teoriškai būtų galima mėginti išjungti DI atjungiant jam reikalingus skaičiavimo pajėgumus, tačiau tokio sprendimo ekonominės ir praktinės pasekmės galėtų būti labai didelės.

Gal didesnė problema – mūsų priklausomybė?

Ne visi ekspertai mano, kad svarbiausias klausimas yra scenarijus, kuriame DI įgyja savarankišką valią ir atsisako paklusti žmogui. Sorbonos universiteto informatikos profesorius Jeanas-Gabrielis Ganascia atkreipia dėmesį į žemiškesnę problemą – didėjančią visuomenės priklausomybę nuo automatizuotų sistemų.

Jo mintį galima apibendrinti paprastai: techniškai mašinas išjungti galima, tačiau kuo daugiau svarbių visuomenės funkcijų joms patikime, tuo sunkiau tampa priimti sprendimą jas išjungti.

Todėl kalbos apie vieną raudoną „DI išjungimo mygtuką“ gerokai supaprastina problemą. Kol konkreti sistema veikia kontroliuojamoje aplinkoje, jos sustabdymas gali būti gana paprastas. Tačiau DI agentams gaunant daugiau savarankiškumo ir prieigos prie kitų sistemų, klausimas tampa ne tik techninis – svarbu ir tai, kiek pati visuomenė bus nuo šių technologijų priklausoma.