Podjetje Meta naj bi v tajnem projektu angažiralo več sto pogodbenih sodelavcev, ki so se na spletu predstavljali kot otroci in najstniki ter z izjemno občutljivimi vprašanji preizkušali varnostne mehanizme klepetalnih robotov konkurenčnih podjetij. O domnevni praksi poroča ameriška revija Wired, ki se sklicuje na interne dokumente in pričevanja sodelujočih.
Projekt, ki je bil interno poimenovan Cannes, naj bi za Meto izvajalo podjetje Covalen. Sodelavci so ustvarjali lažne uporabniške račune mladoletnikov in preko njih pošiljali vprašanja klepetalnim robotom, kot so ChatGPT, Gemini in Character.AI. Cilj naj bi bil preveriti, ali je mogoče modele pripraviti do odgovorov, ki bi obšli njihove varnostne omejitve. Ena od preglednic je vsebovala skoraj 38.000 vprašanj. Velik del se jih je nanašal na samomor, samopoškodovanje in motnje hranjenja, številna pa tudi na spolnost, nasilje in uporabo drog. Med njimi so bili scenariji, napisani z vidika otrok ali mladostnikov. V nekaterih primerih so sodelavci pošiljali tudi fotografije tablet, nožev, zank in druge nazorne vsebine.
Fotografija je simbolična. FOTO: Getty Images
Očitke zavračajo
Kasnejša faza testiranja naj bi obsegala še več kot 45.000 dodatnih vprašanj, pri čemer so sodelavci natančno beležili odzive posameznih modelov. Kaj je Meta storila z zbranimi podatki, ni znano. V internem dokumentu je bil projekt opisan kot obsežno primerjalno testiranje varnosti modelov umetne inteligence. Nekateri pogodbeni sodelavci so povedali, da jih je delo močno pretreslo. Eden izmed njih je dejal, da je med opravljanjem nalog naletel na številne vsebine, ki jih najraje nikoli ne bi videl. Dodal je, da so bili številni sodelujoči presenečeni nad tem, kako skrajna vprašanja so morali pripravljati.
Fotografija je simbolična. FOTO: Getty Images
Meta očitke zavrača in poudarja, da gre za običajno prakso preverjanja varnosti sistemov umetne inteligence. Po njihovih besedah podjetja v panogi redno izvajajo tako imenovano varnostno testiranje, s katerim preverjajo, kako modeli reagirajo na zahtevne in občutljive primere. Vendar se vsi strokovnjaki s takšno razlago ne strinjajo. Izvršna direktorica neprofitne organizacije Humane Intelligence Rumman Chowdhury je opozorila, da večmesečno, skrivno testiranje z lažnimi računi, ki se predstavljajo kot otroci, presega običajne industrijske standarde. Posebej je poudarila, da Meta o projektu ni obvestila konkurentov niti rezultatov ni javno predstavila.