En mars dernier, un utilisateur du réseau social X a incité le chatbot d’IA Grok à proférer des insultes contre la conseillère fédérale Karin Keller-Sutter. A la suite d’une plainte déposée par la ministre, le Ministère public bernois a ouvert une enquête pour injures et calomnie.

Le ministère public a confirmé à Keystone-ATS une information publiée dans plusieurs journaux alémaniques. Le Sonntagsblick a rapporté qu’un utilisateur de X aurait incité le chatbot IA Grok à proférer des insultes sexistes à l’encontre de Karin Keller-Sutter. Début avril, son porte-parole a déclaré aux journaux Tamedia: « Une telle misogynie ne doit pas être considérée comme normale ou acceptable ».

La direction que prendra l’enquête est « du ressort du ministère public », a déclaré le porte-parole de Karin Keller-Sutter à Keystone-ATS.

>> Lire aussi : Karin Keller-Sutter aurait porté plainte pour insultes sexistes sans prévenir le Conseil fédéral

Responsabilité de l’IA

La plainte pénale de la conseillère fédérale pourrait créer un précédent. Pour la première fois, c’est la responsabilité de l’IA qui est visée, pas seulement la plateforme. « Ce qui change ici, c’est que l’IA a co-créé le contenu », explique l’avocate Me Maëlle Roulet dans le 19h30 de la RTS. « Donc, par définition, l’entreprise qui exploite l’IA est davantage impliquée dans l’insulte qui a été proférée ».

Si X est reconnu coupable de faciliter ces infractions, les plateformes devront répondre de ce que génère leur intelligence artificielle et pas seulement de ce qu’elles hébergent, en tout cas en Suisse.

« On devrait s’attendre à ce qu’une plateforme, avec un risque si basique, mette en place des mesures de modération pour empêcher que son IA en vienne à insulter une personne tierce », affirme Maëlle Roulet. « Cet exemple montre que cela n’a pas été fait et cela induit d’autant plus une responsabilité pénale de l’entreprise ».

Enquêtes officielles

Grok, la plateforme X d’Elon Musk, ainsi que sa société xAI, sont actuellement la cible de plusieurs enquêtes officielles. Après les polémiques sur les images à caractère sexuel générées par l’IA Grok en janvier dernier, la Commission européenne avait ouvert une procédure contre le groupe d’Elon Musk.

>> Lire aussi : L’UE ouvre une nouvelle enquête visant le réseau social X et son IA Grok

Selon un communiqué, les autorités bruxelloises soupçonnent l’entreprise du milliardaire de la tech de ne pas avoir correctement évalué et réduit les risques liés à l’introduction de son intelligence artificielle sur la plateforme en ligne. La Malaisie a également annoncé en janvier vouloir engager des poursuites judiciaires contre le réseau social X.

Sujet TV: Victoria Cora

Adaptation web: edel avec ats