Ofcom undersøker om Grok-chatboten har laget og delt ulovlige bilder og overgrepsmateriale.
Foto: LIONEL BONAVENTURE / AFP / NTB
Oppdatert mandag 12. januar kl. 12:09
I en pressemelding skriver Ofcom at tilsynet har mottatt «dypt bekymringsverdige rapporter» om at Grok AI-chatbot-kontoen på X har blitt brukt til å «lage og dele avkledde bilder av mennesker – som kan utgjøre intimt bildemisbruk eller pornografi – og seksualiserte bilder av barn som kan utgjøre materiale med seksuelt misbruk av barn».
Ofcom kontaktet X mandag 5. januar og ga selskapet frist til fredag 9. januar for å forklare hvilke tiltak de har gjort for å beskytte britiske brukere. Selskapet svarte innen fristen, men tilsynet har likevel besluttet å åpne en full gransking av X for å undersøke om plattformen har brutt britisk lov.
Granskingen skal undersøke om X har fulgt britisk lov, inkludert å vurdere risikoen for at brukere ser ulovlig innhold, fjerne slikt materiale raskt og beskytte barn mot pornografi.
Hvis X blir funnet skyldig i lovbrudd, kan Ofcom ilegge bøter på opptil 18 millioner pund, om lag 244 millioner kroner, eller ti prosent av selskapets globale inntekter. I alvorlige tilfeller kan britiske myndigheter også blokkere tilgangen til plattformen.
Indonesia kunngjorde nylig som første land et forbud mot Grok lørdag, og søndag fulgte nabolandet Malaysia etter. Andre land krever registrering og betaling for bruk av KI-verktøyet.
– Dette tiltaket er et resultat av gjentatt misbruk av Grok til å generere uanstendig, seksuelt eksplisitt, upassende, grovt støtende og ikke-samtykkede manipulerte bilder, heter det i en uttalelse fra malaysiske myndigheter.
EU-kommisjonen varslet nylig gransking av Grok etter klager om at verktøyet ble brukt til å lage og spre overgrepsbilder som fremstiller barn.
Musk lanserte i slutten av desember en egen funksjon for å redigere bilder i Grok, som er en integrert del av den sosiale medieplattformen X.