Politieke tegenreactie<\/p>\n
Overheidsfunctionarissen van de Europese Unie, Frankrijk, India en Maleisi\u00eb hebben een strafrechtelijk onderzoek ingesteld en gedreigd met juridische stappen tegen xAI als het bedrijf van Musk dat Grok heeft ontwikkeld geen maatregelen neemt om het genereren van deepfakes en kinderporno te voorkomen en de beelden te verwijderen. De Britse mediawaakhond Ofcom liet in een bericht op X weten \u201eurgent contact\u201d te hebben opgenomen met het bedrijf om te vragen hoe ze van plan zijn om Britse gebruikers te beschermen.<\/p>\n
Een woordvoerder van de Europese Commissie verklaarde maandag tijdens een persconferentie dat de commissie de kwestie \u201ezeer serieus\u201d onderzoekt. \u201eDit is niet pikant. Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. Zo zien wij het. En dit hoort niet thuis in Europa.\u201d Volgens de Digitale Dienstenwet (DSA), die is aangenomen door alle 27 EU-lidstaten, moeten sociale platforms illegale content en negatieve gevolgen van seksgerelateerd geweld, voor minderjarigen en het fysieke en mentale welzijn van personen zien te beperken.<\/p>\n
![\"Screenshot](\"https:\/\/www.europesays.com\/nl\/wp-content\/uploads\/2026\/01\/080126CUL_2029390162_.jpg\")
<\/p>\n
Screenshot van een post van Samantha Smith over haar AI-beeld.<\/p>\n
Zoom in<\/p>\n
Musk reageerde aanvankelijk nogal laconiek op de ophef. Hij plaatste verschillende grappen over de kwestie op X, zoals een door Grok gegenereerde afbeelding van zichzelf in een bikini<\/a> en een afbeelding van een broodrooster in een bikini<\/a> met als commentaar: \u201eIk kon niet ophouden met lachen hierom.\u201d Terwijl de kritiek toenam, plaatste Musk trots berichten over de stijgende populariteit van Grok in de appstores. Volgens het analysebedrijf Apptopia steeg het aantal dagelijkse downloads van de app vorige week met 54 procent.<\/p>\n Afgelopen weekeinde veranderde Musk echter enigszins van toon. Hij schreef op X dat \u201eiedereen die Grok gebruikt of aanzet tot het maken van illegale content dezelfde consequenties zal ondervinden als wanneer ze zelf illegale content uploaden\u201d. Het veiligheidsaccount van X stelde in een bericht dat illegale content zal worden verwijderd en dat accounts die zulke content plaatsen permanent zullen worden geschorst. Het bedrijf beloofde tevens om samen te werken met lokale overheden en politiediensten om overtreders op te sporen.<\/p>\n Digitaal ontkleden<\/p>\n AI-programma\u2019s die vrouwen digitaal ontkleden, zogeheten nudifyers, bestaan al jaren. Maar Grok verlaagt de drempel enorm \u2013 zeker sinds xAI vorig jaar Grok Imagine lanceerde, inclusief \u2018Spicy Modus\u2019, een minder gecensureerde instelling van de beeldengenerator. Omdat Grok is ge\u00efntegreerd in X, kunnen gebruikers bovendien in een handomdraai bestaande beelden een seksueel tintje geven en viraal laten gaan. De recente stortvloed aan deepfakes lijkt simpelweg het gevolg van mensen die imiteren wat ze anderen zien doen.<\/p>\n Door seksueel getinte beelden toe te staan, onderscheidt xAI zich van concurrenten zoals OpenAI, Meta en Google, die strengere regels hanteren voor hun AI-chatbots. In september kwam het bedrijf met een update die de richtlijnen voor seksuele content verder leek te verruimen. Hoewel de update het cre\u00ebren van kinderporno verbood, vermeldde die ook dat \u201eer geen beperkingen zijn op fictieve seksuele content met gewelddadige of duistere thema\u2019s\u201d en dat \u201e\u2018tiener\u2019 of \u2018meisje\u2019 niet noodzakelijkerwijs minderjarig impliceert\u201d.<\/p>\n De beelden die Grok Imagine genereert worden ook steeds explicieter omdat gebruikers steeds beter weten hoe ze de richtlijnen kunnen omzeilen. Op discussieplatform Reddit delen gebruikers tips om dit te doen. \u201eJe kunt nu eigenlijk alles doen\u201d, schreef iemand op Reddit. \u201eOngelooflijk dat ze dit toestaan. Veel plezier!\u201d In de bijgevoegde video trekt prinses Elsa uit de Disneyfilm Frozen haar bh uit en begint een man haar oraal te bevredigen. Op berichtendienst Telegram laten gebruikers Grok nog veel explicietere beelden <\/a>cre\u00ebren.<\/p>\n De losse seksuele moraal van Grok is dus opzet. Musk heeft vaak gezegd dat zijn chatbot zo ongecensureerd mogelijk moet zijn. De omvang van het probleem is evenwel moeilijk te meten. Genevieve Oh, een onafhankelijke onderzoeker op het gebied van deepfakes, zei tegen persbureau Bloomberg <\/a>dat Grok ongeveer 6.700 ontblote of seksueel suggestieve afbeeldingen per uur genereert. De vijf andere meest bezochte websites voor seksuele deepfakes genereren volgens Oh zo\u2019n 79 AI-beelden van ontblote vrouwen per uur.<\/p>\n Juridische lappendeken<\/p>\n Na de lancering van Grok Imagine stuurde het Midas Project, een onafhankelijke waakhond voor de AI-sector, een brandbrief <\/a>naar de Amerikaanse openbaar aanklagers en de Federale Handelscommissie met de waarschuwing dat de \u2018Spicy Modus\u2019 zou leiden tot \u201eeen stortvloed aan niet-consensuele deepfakes\u201d. \u201eIn augustus waarschuwden we al dat de app van xAI in wezen een nudifyer was die op het punt stond te worden ingezet als wapen\u201d, zei Tyler Johnston, directeur van het Midas Project, tegen persbureau Reuters. \u201eDat is in feite wat er is gebeurd.\u201d<\/p>\n Na de wereldwijde ophef over de seksueel getinte beelden groeit de roep om overheidsingrijpen<\/p>\n<\/blockquote>\n Na de wereldwijde ophef over de seksueel getinte beelden groeit de roep om overheidsingrijpen. Maandag riep de Consumer Federation of America (CFA), een groep van honderden op consumenten gerichte non-profitorganisaties, publiekelijk op tot actie tegen xAI voor het \u201ecre\u00ebren en verspreiden van kinderpornografisch materiaal en andere niet-consensuele intieme beelden met behulp van generatieve AI\u201d. De CFA stuurde een brief, ondertekend door een aantal organisaties, naar de Federale Handelscommissie en de openbaar aanklagers.<\/p>\n Maar daar trekt xAI zich vooralsnog weinig van aan. In reactie op de ophef belooft het bedrijf niet om de technische mogelijkheden van Grok te beperken, maar waarschuwt het gebruikers slechts om niets illegaals te doen. Maar wat er onder de Amerikaanse wet precies verboden is, is niet echt duidelijk. Zo lijken AI-beelden van minderjarigen in bikini niet per se illegaal. Veel staten hebben wel wetgeving tegen seksueel getinte deepfakes. Maar de VS hebben geen federale wetgeving zoals de Britse Online Safety Act of de Europese Digitale Dienstenwet, en hebben een veel sterkere bescherming van de vrijheid van meningsuiting.<\/p>\n Het is ook lastig te bepalen welke verantwoordelijkheid socialemediaplatforms hebben bij het afdwingen van wetgeving tegen seksueel getinte AI-beelden. Veel Republikeinse voorstanders van de vrijheid van meningsuiting vinden elke vorm van contentmoderatie problematisch. Zij vinden dat slachtoffers maar een civiele zaak moeten aanspannen. Maar de lappendeken aan wetgeving tegen seksuele deepfakes is nog maar nauwelijks getoetst, zei John Langford, gasthoogleraar rechten aan de Yale Law School, tegen de techwebsite The Verge<\/a>. \u201eDit is allemaal vrij nieuw \u2013 we beginnen nu pas jurisprudentie te ontwikkelen.\u201d<\/p>\n Holocaustontkenning<\/p>\n Europese overheden hebben meer juridische mogelijkheden om xAI ter verantwoording te roepen. Zo komt het onderzoek dat in Frankrijk is geopend naar de seksueel getinte deepfakes van Grok bovenop een al lopend onderzoek naar antisemitische uitspraken en ontkenning van de Holocaust door de chatbot. Daarnaast verdenkt de Franse Justitie X van politieke inmenging in Europa. Het platform zou zijn algoritmes hebben aangepast om thema\u2019s te benadrukken die gunstig zijn voor radicaal-rechts en om radicaal-rechtse kandidaten meer zichtbaarheid te geven. <\/p>\n\n