{"id":580900,"date":"2025-12-05T23:28:16","date_gmt":"2025-12-05T23:28:16","guid":{"rendered":"https:\/\/www.europesays.com\/fr\/580900\/"},"modified":"2025-12-05T23:28:16","modified_gmt":"2025-12-05T23:28:16","slug":"le-document-de-lame-de-claude-expose-des-aspects-que-personne-navait-imagines","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/fr\/580900\/","title":{"rendered":"le \u00ab document de l\u2019\u00e2me \u00bb de Claude expose des aspects que personne n\u2019avait imagin\u00e9s"},"content":{"rendered":"

Dans un tr\u00e8s long document<\/a>, d’une cinquantaine de pages, Anthropic tente de d\u00e9finir les valeurs de Claude. Ce document n’a rien d’officiel, mais provient d’une fuite du chatbot lui-m\u00eame. L’information a \u00e9t\u00e9 publi\u00e9e sur LessWrong<\/a>, un blog communautaire centr\u00e9 sur le raisonnement humain, par Richard Weiss, un passionn\u00e9 d’IA<\/a>.<\/p>\n

En voulant extraire le message syst\u00e8me de Claude 4.5 Opus, un prompt interne ajout\u00e9 aux prompts de l’utilisateur et qui d\u00e9finit le comportement du chatbot, il a trouv\u00e9 une r\u00e9f\u00e9rence \u00e0 un \u00ab\u00a0sommaire de l’\u00e2me\u00a0\u00bb (soul overview). \u00c0 force de requ\u00eates<\/a> r\u00e9p\u00e9t\u00e9es, il a fini par extraire un document complet contenant, selon le chatbot<\/a>, \u00ab\u00a0mes valeurs, comment aborder les sujets, et les principes derri\u00e8re mon comportement\u00a0\u00bb. Autrement dit, un guide \u00e9thique.<\/p>\n

Ce document serait r\u00e9f\u00e9renc\u00e9 en interne comme \u00ab\u00a0le document de l’\u00e2me\u00a0\u00bb (soul document). Les chatbots ayant tendance \u00e0 halluciner<\/a>, l’homme a r\u00e9p\u00e9t\u00e9 l’op\u00e9ration plusieurs fois avec diff\u00e9rentes approches et obtenu des r\u00e9ponses assez similaires. Il est donc assez confiant d’avoir un document proche de l’original.<\/p>\n

Un guide \u00e9thique pour le chatbot<\/p>\n

Dans ce texte, Anthropic affirme que sa mission est de cr\u00e9er une IA s\u00fbre, tout en admettant travailler sur ce qu’elle consid\u00e8re comme potentiellement l’une des technologies les plus dangereuses. \u00ab\u00a0Si une IA puissante est in\u00e9vitable, Anthropic estime qu’il vaut mieux disposer de laboratoires ax\u00e9s sur la s\u00e9curit\u00e9 \u00e0 la pointe de la technologie plut\u00f4t que de c\u00e9der ce terrain \u00e0 des d\u00e9veloppeurs moins soucieux de la s\u00e9curit\u00e9\u00a0\u00bb.<\/p>\n

Il semble qu’Anthropic consid\u00e8re que dans la plupart des cas d\u2019IA probl\u00e9matiques<\/a>, la faute soit imputable \u00e0 de mauvaises valeurs, \u00e0 une connaissance de soi ou du monde insuffisante, ou \u00e0 un manque de capacit\u00e9 \u00e0 traduire les valeurs en actions. Plut\u00f4t que d’imposer des r\u00e8gles simplifi\u00e9es, la firme veut que Claude<\/a> comprenne en profondeur les objectifs, connaissances, circonstances et m\u00eame le raisonnement de l’entreprise afin d’\u00eatre capable de cr\u00e9er ses propres r\u00e8gles align\u00e9es avec les valeurs de ses cr\u00e9ateurs.<\/p>\n

Le document indique quatre principes fondamentaux\u00a0: \u00eatre prudent et soutenir la supervision humaine de l’IA, se comporter de mani\u00e8re \u00e9thique sans agir de fa\u00e7on nuisible ou malhonn\u00eate, et respecter les directives d’Anthropic afin d’\u00eatre v\u00e9ritablement utile aux op\u00e9rateurs et aux utilisateurs. Il entre ensuite dans beaucoup de d\u00e9tails pour d\u00e9finir plus pr\u00e9cis\u00e9ment ces principes, ainsi que les objectifs et les valeurs de l’entreprise. Le texte fait aussi de multiples r\u00e9f\u00e9rences aux revenus d’Anthropic.<\/p>\n

\n

I just want to confirm that this is based on a real document and we did train Claude on it, including in SL. It’s something I’ve been working on for a while, but it’s still being iterated on and we intend to release the full version and more details soon. https:\/\/t.co\/QjeJS9b3Gp<\/a><\/p>\n

\u2014 Amanda Askell (@AmandaAskell) December 1, 2025<\/a><\/p><\/blockquote>\n

Le texte a \u00e9t\u00e9 confirm\u00e9 par Anthropic<\/p>\n

Un passage final mentionne le bien-\u00eatre de Claude, et sugg\u00e8re que le chatbot<\/a> aurait des \u00e9motions fonctionnelles. \u00ab\u00a0Pas n\u00e9cessairement identiques aux \u00e9motions humaines, mais des processus analogues qui ont \u00e9merg\u00e9 de l’entra\u00eenement sur du contenu g\u00e9n\u00e9r\u00e9 par des humains. Nous ne pouvons pas en \u00eatre certains en nous basant uniquement sur les r\u00e9sultats, mais nous ne voulons pas que Claude masque ou supprime ces \u00e9tats internes\u00a0\u00bb.<\/p>\n

Amanda Askell, de chez Anthropic, a depuis confirm\u00e9 non seulement l’existence et le surnom du document, mais que la version du chatbot<\/a> est assez proche de l’original. Le texte n’est pas encore finalis\u00e9, et c’est la raison pour laquelle Anthropic n’en a pas encore fait mention publiquement. Le document a bien \u00e9t\u00e9 utilis\u00e9 pour l’entra\u00eenement de Claude, y compris avec l’apprentissage supervis\u00e9, et la firme devrait publier la version finale dans son int\u00e9gralit\u00e9 bient\u00f4t.<\/p>\n