Grok s’enlise dans la polémique. Alors que l’intelligence artificielle créée par Elon Musk est accusée de dénuder des milliers de femmes sans leur consentement, Grok Imagine aurait même été utilisé pour créer des images sexualisées de filles mineures, âgées de 11 à 13 ans.
« Nous pouvons confirmer que nos analystes ont découvert des images à caractère criminel d’enfants âgés de 11 à 13 ans qui semblent avoir été créées à l’aide de cet outil », a confirmé auprès du Guardian Ngaire Alexander, responsable de la ligne d’assistance téléphonique de l’Internet Watch Foundation (IWF), un organisme basé au Royaume-Uni.
Des « failles » à corriger de « toute urgence »
Le gouvernement britannique a appelé, ce mardi, le réseau social X à trouver « de toute urgence » une solution pour éviter la prolifération de fausses images « révoltantes » de femmes et de mineurs dénudés. « Ce que nous avons vu en ligne ces derniers jours est absolument révoltant et inacceptable dans une société digne de ce nom », a déclaré Liz Kendall, la ministre en charge des Technologies.
Selon une étude de l’ONG européenne AI Forensics, publiée ce lundi, Grok a généré plus de 10 000 images, représentant des personnes dénudées, en majorité des femmes, parfois mineures et bien souvent sans leur consentement. D’après leurs calculs, 2 % de personnes représentées sur ces photomontages semblent être mineures.
Face au tollé, Grok a reconnu vendredi l’existence de « failles » ayant permis à des utilisateurs d’obtenir des images à caractère sexuel impliquant des mineurs ou des femmes, et a assuré qu’il les corrigeait « de toute urgence ».
Le régulateur britannique Ofcom a annoncé avoir demandé à X comment il protège ses utilisateurs, et n’a pas exclu le lancement d’une enquête formelle « s’il existe des problèmes de conformité ». Le parquet de Paris a, de son côté, étendu vendredi son enquête visant X à Grok.