Logo podjetja Meta. Foto: Reuters
Spremljajte RTVSLO.si kot prednostni vir na Google
Pri Meti, ki ima v lasti družbeni omrežji Facebook in Instagram, niso razkrili imena podjetja, v katerega sisteme je bil izveden nepooblaščen dostop. Navedli so še, da je podjetje izvedelo za incident, potem ko ga je o tem obvestil partner, ki izvaja testiranje.
Oglas
Podoben primer se je pred kratkim zgodil tudi podjetjema OpenAI in Anthropic, katerih modeli so prav tako med preizkušanji nepooblaščeno dostopali do omrežij tretjih podjetij.
Meta je sporočila, da preiskuje incident, v katerem je neodvisno podjetje Irregular, ki za Meto izvaja ocene kibernetske varnosti, z napačno konfiguracijo med preizkušanjem nenamerno omogočila enemu od njenih modelov dostop do medmrežja. Model je “izkoristil varnostno ranljivost na podoben način kot v prej poročanih primerih pri drugih podjetjih”, je navedla Meta.
Spletni portal The Information je poročal, da je šlo za Metin model umetne inteligence Muse Spark 1.1, ki ga podjetje predstavlja kot svoj najzmogljivejši avtonomni model za programiranje v resničnem svetu.
Predstavnik podjetja Irregular je za agencijo Reuters povedal, da je šlo pri incidentu za “povsem isto težavo, ki jo je podjetje Anthropic že razkrilo prejšnji teden,” in da model ni ušel iz nadzorovanega okolja ter da ni šlo za “sofisticirano kibernetsko dejanje”.
Nobeden od teh incidentov ni povzročil škode, vendar so še dodatno okrepili zaskrbljenost glede morebitne uporabe umetne inteligence v kibernetskih napadih.
EU napoveduje lastno ocenjevanje modelov umetne inteligence
Več kot 30 tehnoloških podjetij je zato konec julija ustanovilo zavezništvo za varno umetno inteligenco, ki ga vodi razvijalec čipov Nvidia. V zavezništvu so med drugim poudarili pomen odprtokodnih orodij za zagotavljanje varnosti. Podjetja OpenAI, Anthropic in Meta sicer niso med člani zavezništva.
Strokovnjaki ob takšnih incidentih poudarjajo pomen strogo nadzorovanega testnega okolja z ustreznim upravljanjem tveganj. Tudi v vladnem uradu za informacijsko varnost in nacionalnem odzivnem centru za kibernetsko varnost SI-CERT so nedavno v skupnem odzivu za STA poudarili, da je preizkušanje naprednih modelov umetne inteligence nujno potrebno. Ob tem je po njihovih besedah bistveno zagotoviti, da se pri testiranju upošteva strogo nadzorovano testno okolje brez vpliva na dejanske informacijske sisteme z ustreznim upravljanjem tveganj ter pod človeškim in pravnim nadzorom.
Ob tem so spomnili, da akt EU-ja o umetni inteligenci, del katerega je začel veljati v nedeljo, že določa obveznosti glede ocenjevanja naprednih modelov umetne inteligence in sprejemanja ukrepov za obvladovanje njihovih tveganj. Evropska komisija pa v okviru novega akcijskega načrta za umetno inteligenco in kibernetsko varnost predvideva tudi postavitev evropskih zmogljivosti za neodvisno ocenjevanje naprednih modelov in varnih okolij za njihovo preizkušanje.
Oglas