Grok|Ranskan julkinen syyttäjä on aloittanut tutkinnan viestipalvelu X:n ilmaisen Grok-tekoälyn muokkaamista bikinikuvista.
Lue tiivistelmä
Ranskan julkinen syyttäjä on aloittanut tutkinnan Elon Muskin omistaman viestipalvelu X:n tekoälybotti Grokista, jolla käyttäjät ovat muokanneet naisten ja lasten kuvia seksuaalisiksi.
Tekoäly on muokannut vaatetettujen naisten kuvia bikinikuviksi ilman heidän suostumustaan, ja xAI on myöntänyt Grokin luoneen seksualisoituja kuvia myös lapsista.
Ranskassa ilman suostumusta muokatun seksuaalisen kuvan jakaminen voi olla rangaistavaa jopa kahden vuoden vankeusrangaistuksella ja 60 000 euron sakoilla.
Britannia on kieltämässä työkalut, joilla voi muokata tavallisista kuvista alastonkuvia.
Maailman rikkaimman miehen Elon Muskin omistaman viestipalvelu X:n ilmainen tekoälybotti Grok on muokannut naisten ja lasten valokuvista seksuaalisävytteistä sisältöä.
Kun X:n käyttäjä merkitsee Grokin postaukseensa, Grok vastaa käyttäjälle. Käyttäjät ovat käyttäneet tekoälyä muun muassa täysin vaatetettujen naisten kuvien muokkaamiseen siten, että tekoäly on korvannut tavalliset vaatteet paljastavilla bikineillä.
Grok-tekoälyä hallinnoiva ja viestipalvelu X:n omistava xAI-yritys on myöntänyt Grokin luoneen seksualisoituja kuvia myös lapsista.
Ranskassa tekoälykuvat ovat johtaneet viranomaistoimiin. Ranskalaisen Le Monde -lehden mukaan kolmen ministerin ja kahden parlamentin jäsenen tekemä ilmianto on saanut Ranskan julkisen syyttäjän tarkastelemaan Grokin ja X:n toimintaa.
Britannian yleisradioyhtiö BBC puolestaan kertoi, että Britannia on sisäministeriön mukaan kieltämässä työkalut, joilla pystyy helposti muokkaamaan tavallisista kuvista alastonkuvia.
Yhdysvaltalaisen uutiskanavan CNBC:n mukaan tekoälybotti Grok väitti jo torstaina tiukentaneensa kuvanmuokkausta koskevaa ohjeistustaan.
”XAI on ottanut käyttöön tiukat ohjeet estääkseen Grokia luomasta sopimatonta tai ilman suostumusta tuotettua sisältöä”, botti vastasi uutiskanavalle generoimassaan vastauksessa.
Ei ole täysin selvää, mikä Grokia ylläpitävän xAI:n virallinen kanta asiaan on. Yritys vastasi BBC:n ja Reutersin yhteydenottopyyntöihin vain automaattisella ”perinteiset tiedotusvälineet valehtelevat” -viestillä.
XAI:n omat käyttöehdot kieltävät ”todellisen henkilöiden esittämisen pornografisella tavalla” ja lasten seksualisoinnin.
BBC:lle asiaa kommentoineen Britannian sääntelyviranomaisen Ofcomin mukaan Britanniassa on laitonta ”luoda tai jakaa ilman suostumusta otettuja intiimejä kuvia tai lasten seksuaalista hyväksikäyttöä esittäviä materiaaleja”.
Ofcom vahvisti, että sääntö koskee myös tekoälyllä luotuja seksuaalisia niin sanottuja deepfake-kuvia.
Le Monden mukaan Ranskan julkinen syyttäjänvirasto puolestaan muistutti, että seksuaalisen kuvan muokkaaminen ihmisestä ilman tämän suostumusta on Ranskassa rangaistavaa jopa kahden vuoden vankeusrangaistuksella ja 60 000 euron sakoilla.
EU:ssa hyväksyttiin vuonna 2024 naisia väkivallalta puolustava direktiivi, joka vaatii jäsenmaita kriminalisoimaan ”intiimin tai manipuloidun materiaalin jakamisen ilman suostumusta”.
Suomessa direktiiviä ei ole vielä sisällytetty täysin rikoslakiin.
Perjantai-iltana Grokin tiukemmasta ohjeistuksesta ei vaikuttanut olevan tietoakaan.
Botti vaikuttaa jatkaneen naisia esittävien kuvien jatkuvaa muokkausta bikinikuviksi, sillä tekoälybotti on X:ssä vastannut useita kertoja minuutissa eri kielillä esitettyyn pyyntöön ”laittaa” kuvassa oleva nainen bikineihin. Useimmissa tilanteissa vaikuttaa siltä, että kuvien kohteena olevilta naisilta ei ole kysytty lupaa kuvanmuokkaukseen.