Na ophef om seksuele deepfakes mogen alleen betalende gebruikers nog foto’s bewerken met Grok

Het socialemediaplatform X heeft het bewerken van afbeeldingen met Grok, de AI-tool van X, beperkt tot betalende gebruikers. Elon Musk, de eigenaar van X, kwam de afgelopen week onder vuur, omdat gebruikers zonder toestemming van de afgebeelde personen geseksualiseerde deepfakes konden maken via Grok. Wie nu nog Grok-beelden wil laten bewerken, moet eerst zijn of haar naam en betaalgegevens delen.

Het ging vaak om vrouwen die op een seksuele wijze werden afgebeeld, maar ook soms om minderjarige meisjes. Onder meer de Zweedse vicepremier Ebba Busch, de Britse actrice Millie Bobby Brown en de Amerikaanse popster Taylor Swift werden het slachtoffer.

Hoewel Musk in het begin nog laconiek reageerde, nam hij vorige week een serieuzere toon aan. Zo schreef hij op X dat „iedereen die Grok gebruikt of aanzet tot het maken van illegale content dezelfde consequenties zal ondervinden als wanneer ze zelf illegale content uploaden”.

Toenemende populariteit?

De vraag is of het niet alleen maar de populariteit voor de betaalde versie van Grok doet toenemen. Nikita Bier, het hoofd van productmanagement van X, deelde deze week dat het platform record na record haalde wat betreft het totaal aantal gespendeerde uren op X.

De Europese Commissie zei maandag tijdens een persconferentie dat de commissie het „zeer serieus” onderzoekt. „Dit is walgelijk. Zo zien wij het. En dit hoort niet thuis in Europa.”

Geef cadeau

Deel

Mail de redactie

De journalistieke principes van NRC