EU-kommissionen förbjuder plattformen X att göra sig av med dokument som handlar om Grok.
Öppna bildvisare
Elon Musk äger X AI, som äger chattboten Grok och plattformen X. Bild: Nikolas Kokovlis/NurPhoto/Shutterstock/All Over PressLyssna (du hör en artificiell röst) 2:42
Efter att AI-verktyget Grok fått nya bildredigeringsfunktioner har flera kvinnor och barn blivit utsatta för sexuellt våldsamt bildmissbruk på plattformen. Grok är X:s inbyggda AI-chattbot.
Nu kräver EU att X, som ägs av Elon Musks AI-företag X AI, sparar alla interna dokument om Grok fram till slutet av året.
”Vi måste kunna få tillgång till dem om vi uttryckligen begär det”, säger Thomas Regnier som är talesperson vid EU-kommissionen.
Det här betyder inte att kommissionen öppnat en ny officiell undersökning mot X.
Det nya kravet är en förlängning på en annan order om att spara dokument som har att göra med algoritmer och spridning av olagligt innehåll.
Myndigheter i Storbritannien har också bett X att visa hur de följer dataskyddslagar. Sedan ska de bestämma ifall de behöver utreda Grok.
Sexuellt övergreppsmaterial
Efter den senaste uppdateringen i slutet av december kunde användare be Grok redigera bilder på X.
Det dröjde inte länge förrän folk började använda den med kommandon som ”visa personen i bikini” eller ”ta bort personens kläder”.
I början av januari slog flera kvinno- och barnrättsorganisationer larm om att verktyget missbrukas för att skapa sexuellt övergreppsmaterial, speciellt på barn.
Bland de drabbade finns den svenska politikern Ebba Busch och barnskådespelaren Nell Fischer från Stranger Things.
Användare har också klätt av bilder av Ashley St. Clair, som har barn med Elon Musk.
”Grok klär av bilder av mig som barn”, sa hon på X i måndags.
X säger sig ha tagit steg för att åtgärda det här. Flera bilder har blivit raderade.
”Alla som använder Grok för att generera olagligt innehåll kommer få samma konsekvenser som de som laddar upp olagligt innehåll”, har Elon Musk sagt på X.
Enligt en granskning som Wired gjort lär användare ha kunnat skapa grövre sexuellt övergreppsmaterial med videogenereringsverktyget Imagine på Groks hemsida och app. X AI har inte kommenterat Wireds undersökning.
BBC rapporterar också om olagliga bilder som har skapats med hjälp av Grok.
Det här är inte första gången som X hamnar i blåsväder på grund av Grok. I somras var X AI tvunget ta bort inlägg där Grok hade hyllat Hitler.
I december fick X 120 miljoner euro i böter för brott mot EU:s regler om digitalt innehåll gällande reklam och verifiering.
Källor: Reuters, AFP, Le Monde