JAKARTA — Le ministère allemand de la Justice envisage de prendre prochainement une série de mesures pour permettre aux autorités de lutter plus efficacement contre l’utilisation de l’intelligence artificielle (IA) pour manipuler des images en violation des droits de la personne. Cela a été annoncé par un porte-parole du ministère vendredi 9 février.
Le plan a émergé au milieu des critiques contre Grok, le chatbot IA intégré à la plate-forme de médias sociaux X du milliardaire Elon Musk, qui est en train d’être enquêté en Europe concernant une fonction appelée « mode épicé ». Cette fonction permet aux utilisateurs de produire des images avec du contenu sexuel explicite.
L’enquête de Reuters a révélé que la fonction de création d’images du chatbot était utilisée pour créer des images de femmes et d’enfants vêtus de vêtements minces, souvent sans le consentement des personnes représentées. Cette situation suscite de sérieuses inquiétudes concernant la protection des droits de la personne et la sécurité dans l’espace numérique.
Le ministre allemand des médias a auparavant cette semaine exhorté la Commission européenne à prendre des mesures juridiques pour mettre fin à ce qu’il a appelé « l’industrialisation de la violence sexuelle » sur la plate-forme X.
En réponse à une question concernant la controverse lors d’une conférence de presse régulière du gouvernement, la porte-parole du ministère de la Justice allemand, Anna-Lena Beckfeld, a indiqué que l’Allemagne se préparait à traiter cette question par le biais de la justice nationale.
« Il est inacceptable que des manipulations à grande échelle soient utilisées pour violer systématiquement les droits de la personne », a déclaré Beckfeld. « C’est pourquoi nous voulons nous assurer que le droit pénal peut être utilisé plus efficacement pour lutter contre cette pratique. »
Beckfeld a expliqué que son ministère s’efforçait d’établir des réglementations plus strictes sur les technologies de deepfake et de préparer un projet de loi sur la violence numérique pour soutenir les victimes.
« Nous voulons faciliter aux victimes de prendre des mesures immédiates contre les violations de leurs droits sur Internet », a-t-il dit aux journalistes.
Il a ajouté que le ministeré envisage de soumettre une proposition concrète dans un proche avenir, bien qu’il ne soit pas encore possible de divulguer des informations plus précises sur les mesures qui sont en cours d’élaboration.
En attendant, après avoir minimisé les inquiétudes concernant la fonction de création d’images Grok, la société xAI a maintenant limité cette fonction aux clients payants. Elon Musk a également déclaré la semaine dernière que quiconque utilise le chatbot pour créer du contenu illégal subirait les mêmes conséquences qu’à l’inverse si elles téléchargeaient directement du contenu illégal sur la plate-forme.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language.
(system supported by DigitalSiber.id)