Ühendkuningriigi meediaregulaator Ofcom algatas esmaspäeval ametliku uurimise Elon Muski sotsiaalmeediaplatvormi X (endine Twitter) tehisaru vestlusroboti Grok pildiloome funktsiooni suhtes, mida on kasutatud seksualiseeritud süvavõltsingute loomiseks.
Grok on sattunud kasvava rahvusvahelise kriitika alla, kuna see lubab kasutajatel lihtsate tekstikäskluste abil luua ja jagada naistest ning lastest seksualiseeritud pilte.
Ofcom nimetas teateid sügavalt murettekitavateks. Ofcom teatas, et võttis X-iga ühendust 5. jaanuaril, paludes selgitada, milliseid samme on Ühendkuningriigi kasutajate kaitsmiseks astutud.
Kirjavahetuse üksikasju avaldamata teatas regulaator, et X vastas ettenähtud aja jooksul.
Ametlik uurimine peab välja selgitama, kas X on jätnud täitmata oma juriidilised kohustused.
Juulis jõustunud Suurbritannia veebiohutuse seaduse kohaselt peavad potentsiaalselt kahjulikku sisu majutavad veebilehed, sotsiaalmeedia- ja videojagamisplatvormid rakendama ranget vanusekontrolli, kasutades selleks näiteks näotuvastust või krediitkaardiandmete kontrolli.
Samuti on meediasaitidel ebaseaduslik luua või jagada ilma nõusolekuta intiimkujutisi või laste seksuaalse kuritarvitamise materjali, sealhulgas tehisintellektiga loodud seksuaalseid süvavõltsinguid.
Ofcomil on õigus nende reeglite rikkumise eest määrata trahve kuni 10 protsendi ulatuses ettevõtte ülemaailmsest käibest.
Eelmise nädala lõpus püüdis Grok rahvusvahelist kriitikat tõrjuda uue poliitikaga, teatades X-is, et tööriist on nüüd kättesaadav vaid maksvatele tellijatele.
Möödunud laupäeval keelustas Indoneesia esimese riigina täielikult juurdepääsu tööriistale, pühapäeval järgis nende eeskuju Malaisia.
Euroopa Komisjon teatas eelnevalt, et vaatab läbi Groki kohta esitatud kaebused.