Den brittiska labour-regeringen kommer att presentera en ny lagstiftning som gör det olagligt att tillhandahålla digitala verktyg som kan skapa sexuellt innehåll utan samtycke. Det är sedan tidigare olagligt i Storbritannien att sprida den sortens bilder.
I ett uttalande under måndagen hotade Storbritanniens premiärminister Keir Starmer plattformen X med direkt statlig reglering inom landet, om företaget inte själva vidtar åtgärder. Starmer beskriver AI-bilderna på X som ett ”vidrigt innehåll”, rapporterar BBC.
– Om X inte kan kontrollera Grok, kommer vi att göra det, säger Starmer.
Utreds av myndigheter
Enligt BBC kan åtgärder komma att genomföras snabbt. Beskedet från premiärministern kommer bara timmar efter att landets internetreglerande myndighet Ofcom gett besked om att de inlett en granskning av X med anledning av det sexuella innehållet.
Om X bedöms sprida sexualiserat innehåll föreställande barn riskerar företaget böter i hundra miljoners-klassen från Ofcom.
X har tidigare kommenterat kritiken till SVT, och skrivit att de som använder Grok till att skapa olagligt innehåll kommer möta samma konsekvenser som de som laddar upp andra former av illegalt innehåll på plattformen.