Comment reconnaître les contenus générés par l’intelligence artificielle (IA) alors que faire la différence à l’œil nu est parfois devenu presque impossible ? Depuis le 2 août, de nouvelles règles de transparence sont entrées en vigueur dans le cadre de la loi européenne sur l’IA.
Pour lutter contre la désinformation, les outils générant des images, vidéos, sons ou textes grâce à l’IA doivent désormais intégrer un marquage spécial. De quoi parle-t-on ? Selon l’article 50, ce marquage doit constituer « un format lisible par machine » permettant d’identifier que le contenu a été généré ou manipulé par une IA.
Un marquage invisible incrusté dans le texte
Pour la génération de texte, le marquage n’est pas encore une pratique généralisée, mais Google DeepMind a développé une technologie open source librement accessible, SynthID-Text, utilisée depuis 2024 par Gemini. Comment cela fonctionne ? Une clé oriente le choix des mots faits par l’IA parmi les différentes possibilités, par exemple, entre deux synonymes comme « rapidement » et « vite ». L’analyse d’une séquence de mots suffisamment longue permet ainsi de déterminer la clé utilisée et donc l’outil qui a généré le contenu.
Pour détecter ce filigrane invisible, Google est en train de développer un outil, SynthID Detector, qui est encore en phase de test.
« Offrir aux utilisateurs de meilleurs outils »
Anthropic, qui a déjà annoncé que les nouveaux modèles de son IA Claude se conformeraient à la loi européenne, va suivre la même approche que Google, en se basant sur SynthID-Text. Contactée par France 24, l’entreprise américaine explique : « Nous sommes en train d’ajouter un marquage aux résultats générés par Claude afin de nous conformer à la loi européenne sur l’IA, et d’autres laboratoires prennent des mesures similaires. Il est difficile d’identifier un texte généré par l’IA, et cela offrira aux utilisateurs de meilleurs outils pour y parvenir. »
Le texte généré par Claude sera ainsi marqué d’un tatouage indétectable pour le lecteur. Anthropic résume dans un communiqué : « On pourra désormais examiner la séquence de mots et vérifier si elle est cohérente avec les choix que Claude ferait en utilisant cette clé. »
La société veut rassurer et précise à France 24 que ce filigrane « n’altère en rien le sens, la qualité ou la lisibilité des réponses de Claude ».
Reste à développer un outil pour analyser cette clé. Anthropic indique qu’elle va mettre en place une API (interface de programmation d’application) de détection de ce filigrane « afin que les utilisateurs puissent effectuer eux-mêmes ces opérations d’identification ». Mais l’outil d’analyse donnera seulement la probabilité que le texte ait été généré par Claude, son résultat ne constituera donc pas une preuve absolue.
Du côté du très populaire ChatGPT, la société OpenAI indique qu’elle va développer un marquage du texte généré par son IA, comme demandé par l’UE, sans donner plus de détails pour l’instant.
Un tatouage indélébile ?
Mais ce filigrane invisible permettra-t-il de lutter contre les usages malveillants ? Pas forcément. Déjà, chaque entreprise a sa clé secrète et doit développer son propre outil de détection, comme le font Google et Anthropic. Et quand ces outils seront accessibles à tous, il faudra donc vraisemblablement passer par plusieurs détecteurs afin d’établir quel modèle d’IA en est à l’origine, ou du moins avoir une probabilité.
De plus, « dans certains cas, les techniques de marquage se détournent assez facilement », explique Shane Barney, directeur de la sécurité de l’information de la société Keeper Security, spécialisée en cybersécurité. « Les tests indépendants menés sur le tatouage numérique ont montré que les filigranes appliqués au texte perdent leur signal dès lors que le contenu est fortement paraphrasé ou traduit », fait-il valoir.
Sans compter que la course en ligne pour supprimer le marquage du texte a déjà démarré depuis l’annonce d’Anthropic.
Pour les contenus visuels, des filigranes visibles
Pour les contenus visuels, il existe plusieurs types de marquage, comme un filigrane visible, souvent un logo apposé dans le coin d’une image ou d’une vidéo générée par IA. C’est le cas pour les images générées par Grok, Craiyon ou certaines versions gratuites d’IA par exemple.
Il est également possible d’apposer un tatouage invisible sur les médias générés par IA, ce qui devient donc obligatoire avec l’entrée en vigueur de l’article 50 de la loi européenne sur l’IA.
L’un des marquages les plus répandus à ce stade est l’incrustation de métadonnées spécifiques suivant la norme de la coalition Content Credentials C2PA (Coalition for Content Provenance and Authenticity), un consortium de plusieurs géants du numérique. Cette technologie est donc déjà relativement répandue ; elle est adoptée par Google, Adobe, OpenAI, Anthropic ou encore Meta.
Le site du consortium met à disposition un outil de vérification, qui est toujours en cours de déploiement. Mais comme le souligne Shane Barney : « Les filigranes d’images portés par les métadonnées peuvent être effacés par une manipulation aussi banale qu’un réenregistrement, un changement de format ou une capture d’écran. »
D’ailleurs, nous avons testé l’outil de détection de Content Credentials et effectivement, il ne reconnaît plus l’origine d’un fichier généré par l’une des entreprises d’IA partenaires si le format ou un autre réglage, comme la luminosité, sont modifiés. Parfois, il affiche un message précisant que « le contenu a peut-être été falsifié ». Et l’outil semble systématiquement afficher un message d’erreur quand il ne détecte rien.
Nous avons testé l’outil de détection des métadonnées C2PA de Content Credentials. Il ne reconnaît plus l’origine d’une image générée par ChatGPT après changement du format de l’image.
SynthID, une technique plus performante ?
Pour renforcer le marquage des contenus générés par IA, certaines entreprises font le choix d’ajouter plusieurs couches. Comme Google avec la technologie SynthID, qui existe pour le texte, les images et les fichiers audio.
Pour les images, il s’agit d’un motif invisible incrusté dans les pixels. Selon Google DeepMind, « il est conçu pour résister à des modifications telles que le recadrage, l’ajout de filtres, la modification de la fréquence d’images ou la compression avec perte ».
Ce marquage (en plus des métadonnées C2PA) est déjà intégré à Gemini. La technique a également convaincu OpenAI, qui l’applique pour les médias générés par ChatGPT et DALL·E.
OpenAI propose déjà un outil pour détecter ses propres contenus générés par l’IA. Et le résultat est très intéressant. Si les métadonnées C2PA sont facilement effacées, le détecteur reconnaît le marquage SynthID même avec un fort recadrage, un changement de format ou des paramètres de luminosité par exemple. Il peut aussi fonctionner malgré une capture d’écran et peut donc s’avérer utile pour détecter un faux visuel circulant sur les réseaux sociaux. Il suffit de faire une capture d’écran avec son smartphone, recadrer sur l’image à vérifier et se rendre sur le détecteur d’OpenAI.
L’outil de détection d’OpenAI reconnaît une image générée par ChatGPT, alors que les métadonnées C2PA ont été perdues après une modification.
Du côté de Google, le SynthID Detector n’est pour l’instant accessible qu’à un échantillon de journalistes et professionnels des médias. La rédaction des Observateurs a pu l’essayer et les résultats sont prometteurs. L’entreprise recommande en outre de passer par Gemini pour lui demander de vérifier si une image ou une vidéo contiennent le marquage SynthID de Google, mais nous l’avons testé et le résultat manque encore de fiabilité, comme l’a déjà souligné le média de fact-checking Lead Stories.
Un gage de transparence mais pas de fiabilité
Bilan : les marquages des contenus générés par IA apportent plus de transparence mais ne sont pas suffisants à ce stade pour garantir l’origine d’un contenu. De plus, les outils de marquage sont tout juste en cours de développement pour certaines entreprises. Pour celles qui ont pris les devants, les outils de détection sont encore loin d’être tous déployés et performants. Le risque est également que la multiplicité de ces outils, propres à chaque entreprise, complique la tâche de vérification.
Les nouvelles règles entrées en vigueur en août concernent toutes les entités dont les produits sont utilisés ou distribués au sein de l’UE. Les nouveaux outils arrivant sur le marché devront impérativement respecter cette loi, tandis que ceux qui existent déjà ont jusqu’au 2 décembre 2026 pour s’y conformer.
En cas de non-respect, les entreprises s’exposent à des amendes pouvant aller jusqu’à 15 millions d’euros ou 3 % de leur chiffre d’affaires annuel mondial.
Un code de bonnes pratiques sur la transparence des contenus générés par l’IA a été signé par près de 190 organisations : on y retrouve la majorité des géants de l’IA, mais pas SpaceXAI et son chatbot Grok par exemple.
Mais l’initiative de l’UE soulève des réserves. Google, malgré son adhésion au code de l’UE, dit par exemple craindre que la complexité réglementaire ne pénalise l’Europe en matière de compétitivité sur l’IA, dans un communiqué publié le 24 juillet.
La loi européenne pousse en tout cas d’ores et déjà les géants de l’IA à développer ou accélérer le déploiement des technologies de marquage et de vérification qui pourront aussi bénéficier aux utilisateurs en dehors de l’UE.