Turklāt amatpersona būs atbildīga arī par potenciālu scenāriju izvērtēšanu, kuros mākslīgais intelekts spēj pats sevi apmācīt, raisot bažas, ka tas kādā brīdī varētu “vērsties pret cilvēci”.
“Tas būs stresains darbs, un jaunais darbinieks diezgan uzreiz tiks iemests dziļajā galā,” atzina “OpenAI” vadītājs Sems Altmans, paziņojot par vakanci, kuru viņš raksturoja kā “kritisku lomu, lai palīdzētu pasaulei”.
Darbs ar augsta līmeņa riskiem
Amata aprakstā norādīts, ka jaunajam “gatavības vadītājam” būs jānodarbojas ar jaunu draudu identificēšanu un mazināšanu, kā arī jāseko līdzi tā dēvētajām “robežspējām” – mākslīgā intelekta attīstības virzieniem, kas var radīt sevišķi nopietnu kaitējumu.
“The Guardian” norāda, ka iepriekšējie šī amata pildītāji “OpenAI” struktūrā amatā noturējušies salīdzinoši īsu laiku, kas tikai pastiprina priekšstatu par darba sarežģītību.
Vakance izsludināta laikā, kad paši mākslīgā intelekta nozares līderi arvien skaļāk brīdina par tehnoloģijas riskiem.
Piemēram, “Microsoft AI” vadītājs Mustafa Suleimans BBC Radio 4 raidījumā “Today” sacīja: “Godīgi sakot, ja jūs šobrīd neesat vismaz mazliet nobijušies, tad jūs vienkārši nepievēršat uzmanību.”
Saturs turpinās pēc reklāmas
Reklāma
Savukārt “Google DeepMind” līdzdibinātājs un Nobela prēmijas laureāts Demiss Hasabiss šomēnes brīdināja par scenārijiem, kuros mākslīgais intelekts varētu “aiziet no sliedēm veidā, kas kaitē cilvēcei”.
Regulācijas trūkums un paškontrole
Rakstā uzsvērts, ka, neraugoties uz pieaugošajām bažām, mākslīgā intelekta regulējums gan nacionālā, gan starptautiskā līmenī joprojām ir minimāls. Tas notiek arī uz politiskas pretestības fona – tostarp no ASV prezidenta Donalda Trampa puses.
Datorzinātnieks Jošua Benžio, viens no tā dēvētajiem “mākslīgā intelekta krusttēviem”, nesen ironiski norādīja: “Sviestmaizei ir vairāk regulējuma nekā mākslīgajam intelektam.” Tādēļ lielā mērā mākslīgā intelekta uzņēmumi pašlaik regulē paši sevi.
Altmans, izsludinot vakanci sociālajā tīklā “X”, rakstīja: “Mums ir spēcīgs pamats spēju mērīšanā, taču mēs ieejam pasaulē, kur nepieciešama daudz niansētāka izpratne par to, kā šīs spējas var tikt ļaunprātīgi izmantotas un kā ierobežot riskus, vienlaikus saglabājot milzīgos ieguvumus.” Viņš piebilda, ka šiem jautājumiem ir maz precedentu un tie ir ārkārtīgi sarežģīti.
Kāds lietotājs uz šo paziņojumu reaģēja ironiski: “Izklausās diezgan vienkārši – vai komplektā ir arī atvaļinājums?”