bloqué

Réservé aux abonnés

Qu’est-ce qu’un algorithme est capable de montrer à vos enfants ? Ouest-France a construit un robot pour le mesurer. Plusieurs jours durant, la machine a scrollé sur TikTok. Elle y a trouvé des conseils pour s’affamer, des vidéos promouvant le suicide et des liens vers des contenus pédocriminels. Enquête sur une mécanique qui amplifie tout, y compris le pire.

Septembre 2021, Cassis, dans les Bouches-du-Rhône. Marie a 15 ans quand elle met fin à ses jours. Sa mère fait ce que font beaucoup de parents dans ces moments-là : elle cherche une explication. Alors elle ouvre le téléphone de sa fille. Et tombe sur TikTok.

Pas le TikTok qu’on imagine pour une adolescente de 15 ans. Pas de danses, pas de blagues, pas de défis. Mais une succession presque infinie de vidéos sur le mal-être, la dépression, l’automutilation, le suicide. C’était beaucoup de vidéos romantisant le suicide, avec une esthétique léchée, des chansons tristes, et des sad girls, de jeunes filles en larmes devant leurs écrans », résume aujourd’hui l’avocate Laure Boutron-Marmion, qui accompagne la famille.

Maëlle (le prénom a été modifié), elle, a vécu cette dérive de l’intérieur. Pendant plusieurs années, elle a été confrontée quotidiennement à ces mêmes contenus, proposés automatiquement par le réseau social. C’est arrivé crescendo. Au début, c’était une chanson qui parlait de mal-être. Puis c’est parti dans des concours de qui allait le plus mal, des phrases culpabilisantes comme “si tu fais une tentative de suicide mais tu ne termines pas en réanimation, ça ne compte pas”, etc.

Une question obsède depuis les familles de victimes : comment une adolescente peut-elle se retrouver enfermée dans ce type de contenus simplement en scrollant ? Parce qu’au fond, sur TikTok, personne ne choisit vraiment ce qu’il regarde. C’est l’algorithme qui décide. Chaque seconde. Chaque like. Chaque swipe. Chaque vidéo regardée jusqu’au bout reconfigure ce que vous verrez ensuite.

Alors, nous avons décidé de le mesurer. Nous avons retiré l’humain de l’équation, pour le remplacer par « Camille » : un bras robotique créé spécialement pour l’occasion. Le service IA de Ouest-France a développé une interface pour analyser chaque vidéo : si le contenu correspond au thème étudié, le robot le regarde jusqu’au bout, deux fois, puis le like ; sinon, il swipe. Une vingtaine de comptes ont été créés, chacun paramétrés pour une catégorie : cuisine, maquillage, masculinisme, complotisme, contenus sexuels, troubles alimentaires, automutilation.

Pendant 100 heures, Camille a interagi avec la plateforme. Près de 10 000 vidéos ont été analysées : 7 546 contenus classiques, 1 251 contenus problématiques (conspirationnisme, contenus promouvant une hiérarchie entre les hommes et les femmes ou une idéologie radicale, mais n’enfreignant pas les…