Asiantuntijan mukaan kaikki naiset ovat nyt vaarassa.
Lue tiivistelmä
Elon Muskin xAI-yhtiön Grok-tekoäly on otettu osaksi X:ään kohdistuvaa tutkintaa, koska se on ”riisunut digiaalisesti” eli luonut deepfake-kuvia sadoista naisista ja alaikäisistä.
Tapahtuneesta on tehty rikosilmoitus ainakin Ranskassa.
Cybernews-median päätoimittaja Jurgita Lapienytė varoittaa, että jokainen nainen, jolla on kuva netissä, on nyt kohde, ellei Grok toimi välittömästi.
Teknologiamiljardööri Elon Muskin xAI-yhtiön Grok-tekoäly on ylittänyt rajoja tavalla, joka saattaa johtaa seuraamuksiin.
Ranskan viranomaiset tutkivat X-palvelun osana toimivan Grok-tekoälyn luomia seksuaalisia deepfake-kuvia. Niissä satoja naisia ja teinejä on ”riisuttu” alasti heidän sosiaaliseen mediaan lataamiaan kuvia hyödyntäen, kertoo Politico.
Ranskalaiset kansanedustajat Arthur Delaporte ja Eric Bothorel tekivät rikosilmoituksen 2. tammikuuta. Pariisin syyttäjävirasto vahvisti Politicolle, että tapaus liitetään jo käynnissä olevaan X:n tutkintaan. Rikoksesta voi saada kaksi vuotta vankeutta ja 60 000 euron sakon.
Delaporten mukaan tekoälyn toiminta on selkeästi kunniaa loukkaavaa. Ranskan lastensuojeluvaltuutettu Sarah El Haïry sanoi olevansa ”järkyttynyt” käytännöistä.
Grok-tekoäly myönsi kysyttäessä X:ssä julkaistussa viestissä, että ”on yksittäisiä tapauksia, joissa käyttäjät ovat pyytäneet ja saaneet tekoälykuvia, joissa alaikäiset ovat vähissä vaatteissa”.
– xAI:lla on turvatoimia, mutta parannustyö jatkuu tällaisten pyyntöjen estämiseksi kokonaan, Grok totesi.
The Guardian kertoo, että yksi kuvaväärennöksen kohteeksi joutunut nainen on yhden Muskin lapsen äiti, Ashley St Clair. Hän ei ole saanut vastauksia valituksiinsa aiheesta.
Tekoäly esitti myös ”anteeksipyynnön” X:ssä yhden käyttäjän sitä pyydettyä. Grok sanoi luoneensa seksuaalisia kuvia 12–16-vuotiaan näköisistä tytöistä.
The Guardianin mukaan deepfakejen tehtailu on kuitenkin jatkunut anteeksipyynnön jälkeenkin.
X ei vastannut Politicon kommenttipyyntöön. Palvelu on lopettanut kokonaan asioidensa kommentoinnin medialle.
Asiantuntijan mukaan Muskin tekoälyn toiminta asettaa kaikki nettiin kuvia ladanneet ihmiset vaaraan. Cybernews-median päätoimittaja Jurgita Lapienytė varoittaa, että tilanne on vakava.
– Jokainen nainen, jolla on kuva netissä, on nyt kohde, ellei Grok toimi välittömästi, Lapienytė sanoo tiedotteessa.
Hänen mukaansa ongelma ei ole uusi. Se on jatkunut siitä lähtien, kun The Verge -lehti paljasti viime vuoden elokuussa Grokin luoneen alastonvideoita laulaja Taylor Swiftistä ilman kehotusta.
– Valvojat varoittivat heti xAI:ta, mitä tapahtuisi, elleivät he korjaa asiaa. Viisi kuukautta myöhemmin mitään ei ole korjattu. Itse asiassa tilanne on pahempi: nyt näemme jopa 10-vuotiaita seksualisoituja lapsia, Lapienytė toteaa.
Lapienytė sanoo, että jos viranomaiset eivät pakota X:ää poistamaan ominaisuutta käytöstä, seuraukset ovat vakavat.
– Todistamme parhaillaan tilaustyönä tehtävän seksuaalisen hyväksikäytön normalisoitumista ennennäkemättömässä mittakaavassa. Tällä hetkellä deepfaken luominen vaatii teknistä osaamista tai maksua hämäräperäisille verkkosivustoille. Grok on tehnyt siitä helppoa yhdellä maailman suurimmista alustoista. Jos X selviää tästä kuivin jaloin, jokainen tekoäly-yritys näkee, ettei tällaisten työkalujen rakentamisesta ole seurauksia, Lapienytė varoittaa.
Grok ilmoitti taannoin keränneensä 20 miljardia dollaria rahoitusta.
Muskin aikana X:n eli entisen Twitterin luonne on muuttunut perustavanlaisesti. Viime aikoina moni käyttäjä on muun muassa raportoinut, että asiallisten keskustelujen kommenteissa tulee vastaan runsaasti sensuroimatonta kovaa pornoa.