Un filigrane, mais dans les mots
Le procédé s’appelle le filigrane, ou watermark. Comme sur un billet de banque, sauf qu’il ne se cache pas dans le papier mais dans le choix des mots: le modèle d’intelligence artificielle oriente très légèrement sa façon de tourner ses phrases, selon un motif statistique que seul un outil de détection peut repérer.
Anthropic, l’entreprise américaine derrière l’assistant Claude, a détaillé sa méthode: tous ses modèles sortis depuis le 2 août intègrent la marque. Rien n’est ajouté au texte, aucun caractère caché, aucun surcoût, et le lecteur ne verra strictement aucune différence. Surtout, la marque étant tissée dans la phrase elle-même, elle suit le texte quand on le colle ailleurs. Coller la réponse dans un document Word ou dans le bloc-notes ne l’efface donc pas.
Un professeur d’université piège ses élèves afin de voir s’ils rendent leur travail en utilisant l’IA : 32 sur 35 tombent dans le piège (vidéo)Une probabilité, pas une preuve
Attention aux illusions, à l’école comme au bureau. Le filigrane indique une probabilité qu’un texte sorte de tel modèle, pas une certitude. Il ne contient aucune information personnelle : impossible de remonter à un individu, une entreprise ou une conversation. Il ne fonctionne pas sous environ 150 mots. Et il faudra un outil dédié pour le lire : aucun enseignant ne détectera quoi que ce soit à l’œil nu. Or cet outil n’existe pas encore, Anthropic annonce une interface de détection « prochainement », dont les modalités restent à définir : on ignore à ce stade qui pourra l’utiliser.
Anthropic met d’ailleurs en garde contre toute conclusion hâtive sur l’auteur d’un texte : traduire, résumer ou corriger votre propre texte par l’IA, et le résultat portera la marque, alors que les idées sont bien les vôtres. L’inverse vaut aussi: un texte sans marque n’a pas forcément été écrit par un humain, une réécriture en profondeur pouvant effacer le filigrane.
L’effet le plus net pourrait finalement être ailleurs. Plusieurs travaux montrent déjà que l’intérêt du public chute nettement dès qu’un contenu est identifié comme généré par une machine.