Elon Muski sotsiaalmeediaplatvorm X keelab oma vestlusrobotil Grok päris inimeste piltidelt riiete eemaldamise. Tehisaru sattus kriitika alla, kuna võimaldas luua inimestest seksualiseeritud pilte.

Groki süüdistati naistest ja lastest seksualiseeritud süvavõltsingute genereerimises, kuna võimaldas kasutajatel luua pilte päris inimestest bikiinides ja aluspesus, kirjutab Briti väljaanne The Telegraph.

Pärast rahvusvahelist hukkamõistu teatas X kolmapäeval, et blokeerib kasutajate võimaluse luua päris inimestest pilte bikiinides, aluspesus ja sarnastes riietes riikides, kus selline tegevus on ebaseaduslik.

“Oleme rakendanud tehnoloogilisi meetmeid, et takistada Grokil päris inimeste piltide töötlemist paljastavates riietes, nagu bikiinid,” teatas X-i ohutusmeeskond avalduses. “See piirang kehtib kõigile kasutajatele, sealhulgas tasulistele tellijatele.”

Nädala alguses teatas Briti valitsus kavast jõustada uus kuriteokoosseis, mis kriminaliseerib ilma nõusolekuta loodud seksualiseeritud tehisarupiltide tegemise. Ühendkuningriigi meediaregulaator Ofcom teatas aga ametlikust uurimisest, et selgitada välja, kas X on rikkunud Briti seadusi.

Musk oli varem nimetanud Briti valitsust “fašistlikuks” ja süüdistanud ministreid “tsensuuri ettekäänete” otsimises.

Veebitrollid kasutasid Groki, et luua pilte Briti ministritest natsivormis.

Rünnakute sihtmärkide hulgas oli tehnoloogiaminister Liz Kendall, kes kirjutas laupäeval The Telegraphis, et tehisaru loodud seksualiseeritud pildid lastest on häbiväärsed.

Üks Groki loodud pilt kujutas Ofcomi töötajaid natsivormis.

Tunde enne X-i avaldust algatas California peaprokurör uurimise Muski ettevõtte xAI – Groki arendaja – suhtes seoses ilma nõusolekuta seksuaalse sisuga materjali loomisega.

Prantsusmaa laste õiguste volinik Sarah El Haïry ütles teisipäeval, et on edastanud Groki loodud pildid prokuratuurile, meediaregulaatorile Arcom ja Euroopa Liidule.

Indoneesia blokeeris laupäeval esimese riigina ligipääsu Grokile täielikult, naaberriik Malaisia järgnes pühapäeval ning India on kaebuste peale eemaldanud tuhandeid postitusi ja sadu kasutajakontosid.

Musk on seni tehnoloogiat kaitsnud, süüdistades selle kuritarvitamises pigem kasutajaid.

Ettevõte teatas aga postituses, et neil on nulltolerants igasuguse laste seksuaalse ärakasutamise, ilma nõusolekuta alastuse ja soovimatu seksuaalse sisu suhtes.

“Oleme jätkuvalt pühendunud sellele, et muuta X turvaliseks platvormiks kõigile,” kirjutas ettevõte.