Vodja robotike odstopila, ker noče graditi »morilskih strojev« za Pentagon

Ameriško obrambno ministrstvo je sklenilo dogovor s podjetjem OpenAI, pri čemer mnogi opozarjajo na nedorečenosti glede rabe tehnologije umetne inteligence pri izdelavi sredstev za uničenje. Vodja robotike pri OpenAI je zato podala odpoved. Na fotografiji poslopje Pentagona. Foto: Reuters

Upor v OpenAI: Vodja robotike odstopila, ker noče graditi »morilskih strojev« za Pentagon

Podjetje OpenAI, pod okrilje katerega sodi chatGPT, je nedavno sklenilo sporni sporazum s Pentagonom, ki vključuje uporabo tehnologije umetne inteligence za vojaške namene. Vodja ekipe za strojno opremo je ob tem protestno odstopila s položaja.

Strojna inženirka Caitlin Kalinowski je pred dnevi sporočila, da je zaradi spornega dogovora podjetja OpenAI z ministrstvom za obrambo odstopila s položaja vodje ekipe za strojno opremo.

Proti morilskim robotom

»To ni bila lahka odločitev,« je zapisala v objavi na družbenih omrežjih. Čeprav pravi, da ima umetna inteligenca pomembno vlogo pri zagotavljanju nacionalne varnosti, opozarja, da je podjetje OpenAI z dogovorom s Pentagonom prestopilo »kritično točko«.

Izpostavila je predvsem dva sporna vidika: izvajanje nadzora nad državljani brez sodnega nadzora in razvoj avtonomnih ter smrtonosnih sistemov, ki bi lahko delovali brez človeške potrditve. 

Caitlin Kalinowski, ki je pred tem pri Meti vodila ekipo za razvoj očal za razširjeno resničnost, se je podjetju OpenAI pridružila novembra 2024. Podjetje zapušča po poldrugem letu, rekoč, da gre pri odločitvi za njena osebna načela. Dodala je tudi, da goji globoko spoštovanje do izvršnega direktorja Sama Altmana in ekipe OpenAI.

Podjetje OpenAI je sklenilo sporen dogovor z ameriškim obrambnim ministrstvom. Foto: AP 

Brez varovalnih mehanizmov

V objavi na platformi X pa je svojo odločitev še dodatno pojasnila: »Da ne bo pomote, moja težava je v tem, da je bil sporazum prenagljen, ne da bi bili določeni varovalni mehanizmi. Gre predvsem za vprašanje upravljanja. Te zadeve so preveč pomembne, da bi hiteli.«

OpenAI obljublja »odgovorno rabo UI«

Tiskovni predstavnik OpenAI je za ameriške medije potrdil njeno odpoved. Ob tem je zatrdil, da »dogovor s Pentagonom ustvarja izvedljivo pot za odgovorno rabo umetne inteligence na področju nacionalne varnosti, hkrati pa jasno določa meje«. Meje, o katerih govori, naj bi pomenile, da tehnologije ne bodo uporabljali za nadziranje prebivalstva in razvoj avtonomnega orožja. 

Anthropic želel jasnejše varovalke

Dogovor OpenAI s Pentagonom je bil objavljen pred dobrim tednom, potem ko so propadla pogajanja med Pentagonom in podjetjem Anthropic, pod okrilje katerega sodi klepetalni model claude. 

Dogovor z Anthropicom je padel v vodo, ker je podjetje hotelo natančneje doreči varovalke, ki bi preprečile uporabo tehnologije za nadzor nad ameriškim prebivalstvom in izdelavo popolnoma avtonomnih morilskih robotov. Ameriško obrambno ministrstvo je Anthropic označilo za tveganega partnerja, nakar je s svojo ponudbo vskočil OpenAI. 

Sodelovanje Pentagona z OpenAI je po prvih podatkih slednjemu škodilo. Število odstranitev aplikacije chatGPT je naraslo za 295 odstotkov, medtem ko se je Anthropicov claude povzpel na vrh lestvice največkrat prenesenih aplikacij v App Store. Na družbenih omrežjih se ob tem množično širijo pobude k bojkotu chatGPT.