Le ministère allemand de la Justice prévoit de présenter prochainement des mesures permettant aux autorités de lutter plus efficacement contre l’utilisation de l’intelligence artificielle pour manipuler des images de façon à porter atteinte aux droits personnels, a déclaré vendredi une porte-parole.
Grok, le chatbot IA intégré à la plateforme sociale X du milliardaire Elon Musk, fait l’objet d’une enquête en Europe pour son mode dit « spicy », qui permet aux utilisateurs de générer des images à caractère sexuel explicite.
Une enquête de Reuters a révélé que la fonctionnalité de génération d’images du chatbot était utilisée pour créer des images de femmes et d’enfants en vêtements légers, souvent sans le consentement des personnes représentées.
Le ministre allemand des Médias a exhorté plus tôt cette semaine la Commission européenne à engager des poursuites pour mettre fin à ce qu’il a qualifié d’« industrialisation du harcèlement sexuel » sur X.
Interrogée sur la polémique lors d’une conférence de presse gouvernementale régulière, la porte-parole du ministère de la Justice, Anna-Lena Beckfeld, a indiqué que l’Allemagne se préparait à saisir ses tribunaux nationaux de la question.
« Il est inacceptable que la manipulation à grande échelle soit utilisée pour des violations systématiques des droits personnels », a-t-elle déclaré. « Nous voulons donc nous assurer que le droit pénal puisse être utilisé plus efficacement pour lutter contre ce phénomène. »
Le ministère travaille à une meilleure régulation des deepfakes et prévoit une loi contre la violence numérique pour soutenir les victimes, a-t-elle expliqué aux journalistes.
« Nous voulons leur permettre d’agir plus facilement directement contre les violations de leurs droits sur Internet », a ajouté Beckfeld.
Le ministère compte présenter prochainement des propositions concrètes, a-t-elle précisé, ajoutant qu’elle ne pouvait pas encore commenter les détails de ces plans.
Après avoir d’abord minimisé les inquiétudes concernant la génération d’images par Grok, xAI a désormais restreint cette fonctionnalité aux abonnés payants. Elon Musk a déclaré la semaine dernière que toute personne utilisant le chatbot pour créer du contenu illégal s’exposerait aux mêmes conséquences que si elle téléchargeait directement ce type de matériel.