De afgelopen dagen creëerde Grok beelden van schaars geklede minderjarigen, als reactie op verzoeken van gebruikers. Dit is in strijd met het beleid van de chatbot, dat de seksualisering van kinderen verbiedt, meldde Grok op X na vragen van gebruikers.
De Franse ministers hebben de inhoud gemeld bij de Franse mediatoezichthouder Arcom, om te controleren of deze de Digital Services Act (DSA) van de EU overtreedt. Volgens Grok zijn de aanstootgevende beelden inmiddels verwijderd. “We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen.”
Virtueel uitgekleed
Ook in Groot-Brittannië ligt Grok onder vuur vanwege vergelijkbare incidenten. De BBC sprak met journalist Samantha Smith, die op X schreef over een foto van haar waarbij ze ‘virtueel werd uitgekleed’. Ze vertelde aan de BBC dat ze zich ‘ontmenselijkt en gereduceerd tot een seksueel stereotype’ voelde na het zien van de foto.