La polémique autour des réponses de l’IA de Google a révélé des résultats discriminatoires bien réels. FastCheck a mené l’enquête. Notre verdict: si le biais technique est avéré, le vrai problème est juridique. Face à ces dérives, la loi suisse est jugée « insuffisante » par les plus hautes instances fédérales.
L’IA de Google est-elle raciste ? Et comment s’en protéger ? / FastCheck / 5 min. / le 2 septembre 2026
Le phénomène, parti d’un post sur X le 18 août avant d’être rendu viral en francophonie par l’humoriste Alicia, est désormais connu. L’IA de Google répond différemment selon l’origine de la personne mentionnée. Nos propres tests sont sans appel: pour un Suisse, l’IA suggère des clichés sur la ponctualité ou le fromage. Pour un Algérien, elle affiche les numéros d’urgence de la police et celui de La Main Tendue.
Comment expliquer ce mécanisme ? Selon le Professeur Jean-Pierre Hubaux, directeur académique du Centre pour la confiance numérique de l’EPFL, l’IA ne fait qu’apprendre et « amplifier » les stéréotypes présents dans les milliards de textes sur lesquels elle a été entraînée.
La « discrimination par procuration », un mécanisme pervers
Parfois, cette reproduction de biais prend une forme plus subtile. Un avis de droit commandé par la Commission fédérale contre le racisme (CFR) et la Commission fédérale pour les questions féminines (CFQF) parle de « discrimination par procuration ». L’IA n’utilise pas directement un critère interdit comme l’origine ethnique, mais se base sur des « proxys » (des substituts en apparence neutres comme un code postal, la consonance d’un nom de famille ou une langue parlée) pour arriver au même résultat discriminatoire.
Face à la polémique, les réponses de l’IA ont rapidement changé. Mais pour Michel Deriaz, directeur de laboratoire à l’Université de Genève, il s’agit probablement d’un « patch » superficiel.
« Réentraîner un grand modèle est une opération lourde, coûteuse et relativement longue. […] Il est donc très probable que Google ait corrigé le comportement visible du système plutôt que les associations statistiques profondes. Autrement dit, corriger la réponse n’est pas nécessairement corriger le biais », nous a-t-il expliqué.
Un « vide juridique » en Suisse
Dans un rapport de novembre 2025 intitulé « Recommandations – Protection contre la discrimination algorithmique« , les deux commissions fédérales dressent un constat alarmant: « La protection contre la discrimination algorithmique est insuffisante en Suisse. »
Leur analyse, basée sur un avis de droit détaillé, révèle un véritable vide juridique. En dehors de quelques lois spécifiques, le rapport souligne qu' »il n’existe pas d’interdiction générale de la discrimination dans le droit privé suisse ». Cette faille signifie que pour de nombreuses formes de discrimination, les citoyennes et citoyens sont démunis.
Face à ce vide, les commissions fédérales proposent un arsenal de mesures. La plus importante est la création d’une nouvelle loi générale sur l’égalité de traitement. Une autre proposition clé est « l’allègement du fardeau de la preuve ». Concrètement, cela voudrait dire qu’une personne qui s’estime victime n’aurait qu’à rendre la discrimination « vraisemblable », et ce serait ensuite à l’entreprise de prouver que son algorithme n’a pas fauté. La mise en place de registres publics pour les algorithmes utilisés par l’administration est également sur la table.
Hélène Joaquim