Les chatbots d\u2019intelligence artificielle peuvent fournir des r\u00e9ponses convaincantes, tout en demeurant largement incompris de l\u2019int\u00e9rieur. Pour d\u00e9construire cette \u00ab bo\u00eete noire \u00bb, des chercheurs d\u2019Anthropic d\u00e9veloppent des m\u00e9thodes d\u2019interpr\u00e9tabilit\u00e9 m\u00e9caniste, qui cartographient certains m\u00e9canismes internes des mod\u00e8les de langage.<\/p>\n
La fascination pour les r\u00e9ponses des chatbots <\/a>d\u2019intelligence artificielle<\/a> \u2014 qu\u2019elles soient brillantes ou incoh\u00e9rentes \u2014 est bien connue. Le raisonnement conduisant les mod\u00e8les d\u2019IA \u00e0 proposer de telles r\u00e9ponses l\u2019est moins. M\u00eame ceux qui les fabriquent ne parviennent pas toujours \u00e0 expliquer ce qui se passe dans ce qu\u2019ils consid\u00e8rent \u00eatre des \u00ab bo\u00eetes noires \u00bb.<\/p>\n Pour d\u00e9jouer cette opacit\u00e9, des chercheurs d\u2019Anthropic <\/a>\u2014 derri\u00e8re Claude<\/a>, une famille de grands mod\u00e8les de langage (LLM) \u2014 ont con\u00e7u des outils qui permettent de suivre une partie des milliers de signaux internes qui s\u2019activent en cha\u00eene quand un LLM produit une r\u00e9ponse.\u00a0<\/p>\n Un scanner pour IA<\/p>\n L\u2019id\u00e9e s\u2019apparente \u00e0 un scanner c\u00e9r\u00e9bral lors duquel on ne lit pas une pens\u00e9e, mais l\u2019on voit des sch\u00e9mas d\u2019activit\u00e9. Cette pratique appel\u00e9e \u00ab interpr\u00e9tabilit\u00e9 m\u00e9caniste \u00bb a \u00e9t\u00e9 d\u00e9sign\u00e9e<\/a> comme l\u2019une des 10 technologies r\u00e9volutionnaires de l\u2019ann\u00e9e par la MIT Technology Review le 12 janvier 2026. La revue rapporte<\/a> une exp\u00e9rience men\u00e9e par Anthropic en juillet 2025 pour concr\u00e9tiser cette approche.<\/p>\n Les chercheurs de l\u2019entreprise ont souhait\u00e9 comprendre comment Claude parvenait \u00e0 donner de bonnes et de mauvaises r\u00e9ponses.\u00a0Ainsi ont-ils test\u00e9 le robot conversationnel en lui demandant si \u00ab une banane est jaune \u00bb et si \u00ab une banane est rouge \u00bb. Les scientifiques ont d\u00e9couvert que le chatbot, s\u2019il r\u00e9pond correctement aux deux questions, n\u2019utilise pas le m\u00eame m\u00e9canisme pour valider une phrase vraie que pour rejeter une phrase fausse.<\/p>\n \ud83d\udde3\ufe0f MIT Technology Review just spotlighted mechanistic interpretability as a 2026 breakthrough, highlighting new \u201cmicroscope\u201d tools from labs like Anthropic and OpenAI to peer inside powerful AI models.#AI<\/a> #Safety<\/a> #Explainability<\/a> #Research<\/a> #AIFreakyFacts<\/a> https:\/\/t.co\/yLtAWU8k1c<\/a><\/p>\n — Steve Atwal (@steveatwal) January 14, 2026<\/a><\/p><\/blockquote>\n\n