De Zweedse vicepremier Ebba Busch die naakt het parlement toespreekt. De Britse actrice Millie Bobby Brown, bekend van de Netflix-serie Stranger Things, wier broek en shirt zijn vervangen door lingerie en naaldhakken. Samantha Smith, columniste van het conservatieve weekblad The Spectator en het maandblad The Catholic Herald, die in een minuscule bikini bij een demonstratie staat met een Britse vlag om haar schouders. De Amerikaanse popster Taylor Swift met wit spul op haar gezicht dat eufemistisch ‘donutglazuur’ heet. Het Democratische Congreslid Alexandria Ocasio-Cortez in een swastika-bikini.
Het socialemediaplatform X van miljardair Elon Musk is de afgelopen dagen overspoeld door seksueel getinte afbeeldingen, meestal van vrouwen en soms ook van minderjarige meisjes. De beelden zijn gecreëerd door Grok, de chatbot van X, die van gebruikers de opdracht kreeg bestaande foto’s te bewerken, zonder toestemming van de afgebeelde personen. Dit heeft wereldwijd tot grote verontwaardiging geleid. Beroemdheden die het overkwam, zeggen zich geschonden en vernederd te voelen door de ontblote AI-afbeeldingen.
Ashley St. Clair, een conservatieve influencer die een zoon heeft van Musk, is een van de slachtoffers. X-gebruikers hadden Grok gevraagd seksueel getinte beelden van haar te creëren, waaronder één gebaseerd op een foto van toen ze veertien was. X heeft sommige daarvan op haar verzoek verwijderd, maar andere niet omdat die de richtlijnen niet zouden schenden. „Als de moeder van Musks kind spreek ik hier niet met een bevoorrechte positie”, verklaarde ze tegen The Washington Post. „Ik doorloop dezelfde procedures als iedereen, en dit is wat ik krijg.”
Politieke tegenreactie
Overheidsfunctionarissen van de Europese Unie, Frankrijk, India en Maleisië hebben een strafrechtelijk onderzoek ingesteld en gedreigd met juridische stappen tegen xAI als het bedrijf van Musk dat Grok heeft ontwikkeld geen maatregelen neemt om het genereren van deepfakes en kinderporno te voorkomen en de beelden te verwijderen. De Britse mediawaakhond Ofcom liet in een bericht op X weten „urgent contact” te hebben opgenomen met het bedrijf om te vragen hoe ze van plan zijn om Britse gebruikers te beschermen.
Een woordvoerder van de Europese Commissie verklaarde maandag tijdens een persconferentie dat de commissie de kwestie „zeer serieus” onderzoekt. „Dit is niet pikant. Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. Zo zien wij het. En dit hoort niet thuis in Europa.” Volgens de Digitale Dienstenwet (DSA), die is aangenomen door alle 27 EU-lidstaten, moeten sociale platforms illegale content en negatieve gevolgen van seksgerelateerd geweld, voor minderjarigen en het fysieke en mentale welzijn van personen zien te beperken.
Screenshot van een post van Samantha Smith over haar AI-beeld.
Zoom in
Musk reageerde aanvankelijk nogal laconiek op de ophef. Hij plaatste verschillende grappen over de kwestie op X, zoals een door Grok gegenereerde afbeelding van zichzelf in een bikini en een afbeelding van een broodrooster in een bikini met als commentaar: „Ik kon niet ophouden met lachen hierom.” Terwijl de kritiek toenam, plaatste Musk trots berichten over de stijgende populariteit van Grok in de appstores. Volgens het analysebedrijf Apptopia steeg het aantal dagelijkse downloads van de app vorige week met 54 procent.
Afgelopen weekeinde veranderde Musk echter enigszins van toon. Hij schreef op X dat „iedereen die Grok gebruikt of aanzet tot het maken van illegale content dezelfde consequenties zal ondervinden als wanneer ze zelf illegale content uploaden”. Het veiligheidsaccount van X stelde in een bericht dat illegale content zal worden verwijderd en dat accounts die zulke content plaatsen permanent zullen worden geschorst. Het bedrijf beloofde tevens om samen te werken met lokale overheden en politiediensten om overtreders op te sporen.
Digitaal ontkleden
AI-programma’s die vrouwen digitaal ontkleden, zogeheten nudifyers, bestaan al jaren. Maar Grok verlaagt de drempel enorm – zeker sinds xAI vorig jaar Grok Imagine lanceerde, inclusief ‘Spicy Modus’, een minder gecensureerde instelling van de beeldengenerator. Omdat Grok is geïntegreerd in X, kunnen gebruikers bovendien in een handomdraai bestaande beelden een seksueel tintje geven en viraal laten gaan. De recente stortvloed aan deepfakes lijkt simpelweg het gevolg van mensen die imiteren wat ze anderen zien doen.
Door seksueel getinte beelden toe te staan, onderscheidt xAI zich van concurrenten zoals OpenAI, Meta en Google, die strengere regels hanteren voor hun AI-chatbots. In september kwam het bedrijf met een update die de richtlijnen voor seksuele content verder leek te verruimen. Hoewel de update het creëren van kinderporno verbood, vermeldde die ook dat „er geen beperkingen zijn op fictieve seksuele content met gewelddadige of duistere thema’s” en dat „‘tiener’ of ‘meisje’ niet noodzakelijkerwijs minderjarig impliceert”.
De beelden die Grok Imagine genereert worden ook steeds explicieter omdat gebruikers steeds beter weten hoe ze de richtlijnen kunnen omzeilen. Op discussieplatform Reddit delen gebruikers tips om dit te doen. „Je kunt nu eigenlijk alles doen”, schreef iemand op Reddit. „Ongelooflijk dat ze dit toestaan. Veel plezier!” In de bijgevoegde video trekt prinses Elsa uit de Disneyfilm Frozen haar bh uit en begint een man haar oraal te bevredigen. Op berichtendienst Telegram laten gebruikers Grok nog veel explicietere beelden creëren.
De losse seksuele moraal van Grok is dus opzet. Musk heeft vaak gezegd dat zijn chatbot zo ongecensureerd mogelijk moet zijn. De omvang van het probleem is evenwel moeilijk te meten. Genevieve Oh, een onafhankelijke onderzoeker op het gebied van deepfakes, zei tegen persbureau Bloomberg dat Grok ongeveer 6.700 ontblote of seksueel suggestieve afbeeldingen per uur genereert. De vijf andere meest bezochte websites voor seksuele deepfakes genereren volgens Oh zo’n 79 AI-beelden van ontblote vrouwen per uur.
Juridische lappendeken
Na de lancering van Grok Imagine stuurde het Midas Project, een onafhankelijke waakhond voor de AI-sector, een brandbrief naar de Amerikaanse openbaar aanklagers en de Federale Handelscommissie met de waarschuwing dat de ‘Spicy Modus’ zou leiden tot „een stortvloed aan niet-consensuele deepfakes”. „In augustus waarschuwden we al dat de app van xAI in wezen een nudifyer was die op het punt stond te worden ingezet als wapen”, zei Tyler Johnston, directeur van het Midas Project, tegen persbureau Reuters. „Dat is in feite wat er is gebeurd.”
Na de wereldwijde ophef over de seksueel getinte beelden groeit de roep om overheidsingrijpen
Na de wereldwijde ophef over de seksueel getinte beelden groeit de roep om overheidsingrijpen. Maandag riep de Consumer Federation of America (CFA), een groep van honderden op consumenten gerichte non-profitorganisaties, publiekelijk op tot actie tegen xAI voor het „creëren en verspreiden van kinderpornografisch materiaal en andere niet-consensuele intieme beelden met behulp van generatieve AI”. De CFA stuurde een brief, ondertekend door een aantal organisaties, naar de Federale Handelscommissie en de openbaar aanklagers.
Maar daar trekt xAI zich vooralsnog weinig van aan. In reactie op de ophef belooft het bedrijf niet om de technische mogelijkheden van Grok te beperken, maar waarschuwt het gebruikers slechts om niets illegaals te doen. Maar wat er onder de Amerikaanse wet precies verboden is, is niet echt duidelijk. Zo lijken AI-beelden van minderjarigen in bikini niet per se illegaal. Veel staten hebben wel wetgeving tegen seksueel getinte deepfakes. Maar de VS hebben geen federale wetgeving zoals de Britse Online Safety Act of de Europese Digitale Dienstenwet, en hebben een veel sterkere bescherming van de vrijheid van meningsuiting.
Het is ook lastig te bepalen welke verantwoordelijkheid socialemediaplatforms hebben bij het afdwingen van wetgeving tegen seksueel getinte AI-beelden. Veel Republikeinse voorstanders van de vrijheid van meningsuiting vinden elke vorm van contentmoderatie problematisch. Zij vinden dat slachtoffers maar een civiele zaak moeten aanspannen. Maar de lappendeken aan wetgeving tegen seksuele deepfakes is nog maar nauwelijks getoetst, zei John Langford, gasthoogleraar rechten aan de Yale Law School, tegen de techwebsite The Verge. „Dit is allemaal vrij nieuw – we beginnen nu pas jurisprudentie te ontwikkelen.”
Holocaustontkenning
Europese overheden hebben meer juridische mogelijkheden om xAI ter verantwoording te roepen. Zo komt het onderzoek dat in Frankrijk is geopend naar de seksueel getinte deepfakes van Grok bovenop een al lopend onderzoek naar antisemitische uitspraken en ontkenning van de Holocaust door de chatbot. Daarnaast verdenkt de Franse Justitie X van politieke inmenging in Europa. Het platform zou zijn algoritmes hebben aangepast om thema’s te benadrukken die gunstig zijn voor radicaal-rechts en om radicaal-rechtse kandidaten meer zichtbaarheid te geven.
De Europese Commissie legde X vorige maand al boetes van in totaal 120 miljoen euro op wegens overtreding van de Digitale Dienstenwet. De commissie oordeelde dat het blauwe vinkje bij gebruikersnamen misleidend is. Het is namelijk geen teken van echtheid, maar te koop voor iedere betalende gebruiker. Daarnaast vond de commissie dat X onderzoekers te weinig toegang geeft om te bestuderen hoe schadelijke berichten zich op het platform verspreiden. Het was de eerste keer dat de commissie boetes uitdeelde voor overtreding van de DSA.
Maar Musk legt zich hier niet bij neer en zoekt in toenemende mate de confrontatie met de Europa. „De EU heeft deze waanzinnige boete niet alleen aan X opgelegd, maar ook aan mij persoonlijk, wat krankzinniger is!”, schreef hij op X. Hij dreigde wraak te nemen op de „EU woke Stasi-commissarissen”. Musk kreeg bijval van Amerikaanse regeringsleden. Zo schreef minister van Buitenlandse Zaken Marco Rubio op X dat de boetes „niet alleen een aanval zijn op X, maar een aanval op alle Amerikaanse technologieplatformen en op het Amerikaanse volk door buitenlandse regeringen. De tijd van online censuur van Amerikanen is voorbij.”
Geef cadeau
Deel
Mail de redactie
De journalistieke principes van NRC