{"id":272852,"date":"2026-08-23T10:57:09","date_gmt":"2026-08-23T10:57:09","guid":{"rendered":"https:\/\/www.europesays.com\/ch-fr\/272852\/"},"modified":"2026-08-23T10:57:09","modified_gmt":"2026-08-23T10:57:09","slug":"alan-turing-avait-deja-decouvert-la-faille-qui-empechera-une-ia-de-devenir-reellement-superintelligente-et-omnisciente","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ch-fr\/272852\/","title":{"rendered":"Alan Turing avait d\u00e9j\u00e0 d\u00e9couvert la faille qui emp\u00eachera une IA de devenir r\u00e9ellement superintelligente et omnisciente"},"content":{"rendered":"

Le concept de superintelligence fait couler beaucoup d’encre. Parmi les mythes modernes, celui de la singularit\u00e9 technologique tient une place particuli\u00e8re. C’est une id\u00e9e qui date des d\u00e9buts de l’informatique, popularis\u00e9 par Vernor Vinge dans les ann\u00e9es 90, puis Ray Kurzweil en 2005. Selon eux, l’acc\u00e9l\u00e9ration des progr\u00e8s technologiques va bient\u00f4t accoucher d’une IA<\/a> capable de s’auto-am\u00e9liorer et celle-ci deviendra si intelligente qu’il sera impossible de comprendre ou pr\u00e9dire ce qui se passera ensuite. D’o\u00f9 le terme de singularit\u00e9, qui fait r\u00e9f\u00e9rence au trou noir<\/a> et \u00e0 son horizon des \u00e9v\u00e9nements<\/a>.<\/p>\n

Personnellement, je consid\u00e8re la singularit\u00e9 technologique comme une exp\u00e9rience de pens\u00e9e int\u00e9ressante, mais impossible en pratique. Les raisons sont nombreuses, en particulier si l’on r\u00e9alise qu’une telle intelligence<\/a> n\u00e9cessiterait des ressources quasi infinies. Les transhumanistes r\u00e9pondent g\u00e9n\u00e9ralement \u00e0 ce type d’argument en expliquant que, pour une telle IA, ce ne serait pas un probl\u00e8me : elle r\u00e9soudrait cela en cr\u00e9ant une source d’\u00e9nergie<\/a> in\u00e9puisable. Bref, ils bottent en touche.<\/p>\n

Toutefois, il existe aussi des limites th\u00e9oriques \u00e0 ce qu\u2019une machine informatique puisse faire.<\/p>\n

La premi\u00e8re limite est \u00ab the halting problem \u00bb, ou le probl\u00e8me de l’arr\u00eat en fran\u00e7ais. Nous avons tous observ\u00e9 avec agacement, puis r\u00e9signation, la barre de progression qui semble h\u00e9sitante et parfois interminable de certaines t\u00e2ches que l’on ex\u00e9cute sur notre ordinateur favori. Il est puissant et pourtant il est incapable de d\u00e9terminer avec pr\u00e9cision la dur\u00e9e<\/a> d’une simple copie de fichiers ou d’une mise \u00e0 jour. Le pire est que quelle que soit la puissance de l’ordinateur, avec ou sans IA, le r\u00e9sultat serait le m\u00eame.<\/p>\n

En effet, il n’existe aucun algorithme ou aucune m\u00e9thode g\u00e9n\u00e9rale permettant de pr\u00e9dire si un programme arbitraire avec des donn\u00e9es, va s’arr\u00eater, continuer pendant un certain temps, ou bien boucler ind\u00e9finiment. Alan Turing<\/a> (1912-1954) l’a d\u00e9montr\u00e9 en 1937 : le probl\u00e8me de l’arr\u00eat est ind\u00e9cidable.<\/p>\n

Quelle en est la cons\u00e9quence pour l\u2019IA ?<\/p>\n

Et bien, une AGI aussi intelligente soit-elle reste un programme, et la r\u00e9solution de probl\u00e8mes, une forme de calcul sur des donn\u00e9es, autrement dit un programme. Par cons\u00e9quent, il ne peut exister d’IA g\u00e9n\u00e9rale capable de pr\u00e9dire si un probl\u00e8me arbitraire est solvable et le temps qu’il faudra pour le faire. Dans les faits, il ne peut exister une IA capable de r\u00e9soudre tous les probl\u00e8mes. Certains sont en effet tout \u00e0 fait solvables, mais il existe \u00e9galement un grand nombre de probl\u00e8mes qui n’ont pas de solution. C’est un coup dur pour la singularit\u00e9, mais ce n’est pas la seule limite. Imaginons un instant que notre AGI soit capable de trouver des solutions \u00e0 tout un tas de probl\u00e8mes difficiles que nous ne sommes pas capables de r\u00e9soudre. Comment \u00eatre certains que les solutions trouv\u00e9es seront correctes \u00e0 chaque fois ? Est-ce que l’IA peut tester ses propres solutions ? Faut-il une seconde IA pour le faire ?<\/p>\n

En 1951, le math\u00e9maticien<\/a> Henry Gordon Rice a g\u00e9n\u00e9ralis\u00e9 l’ind\u00e9cidabilit\u00e9
du probl\u00e8me de l’arr\u00eat en d\u00e9montrant que toutes les propri\u00e9t\u00e9s s\u00e9mantiques
non-triviales des programmes sont ind\u00e9cidables. Qu’est-ce que cela
signifie ?<\/p>\n

Aucun algorithme g\u00e9n\u00e9ral ne peut v\u00e9rifier si un programme arbitraire est correct ou s\u2019il s\u2019ex\u00e9cute sans erreur.<\/p>\n

Le th\u00e9or\u00e8me<\/a> de Rice a, entre autres choses, un impact direct sur les probl\u00e8mes d’alignement des IA, car par d\u00e9finition, ce sont des propri\u00e9t\u00e9s s\u00e9mantiques non-triviales : sont-elles s\u00fbres, honn\u00eates, \u00e9quitables, dignes de confiance, etc. Autrement-dit, il n’existe aucun algorithme g\u00e9n\u00e9ral capable de d\u00e9terminer si une IA respectera ces objectifs pour tous les probl\u00e8mes.<\/p>\n

Toutefois, cela ne signifie pas que cela soit impossible pour une t\u00e2che sp\u00e9cifique : il peut exister une solution pour une propri\u00e9t\u00e9 et un probl\u00e8me d\u00e9termin\u00e9.<\/p>\n

Ces limitations ont des cons\u00e9quences heureuses : pas de singularit\u00e9 omnisciente et on est pas pr\u00e8s de se passer de l’humain.<\/p>\n","protected":false},"excerpt":{"rendered":"Le concept de superintelligence fait couler beaucoup d’encre. Parmi les mythes modernes, celui de la singularit\u00e9 technologique tient…\n","protected":false},"author":2,"featured_media":272853,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[7],"tags":[2452,1178,323,18539,61,57,59,58,23,1067,60,62],"class_list":["post-272852","post","type-post","status-publish","format-standard","has-post-thumbnail","category-sciences-et-technologies","tag-ia","tag-informatique","tag-intelligence-artificielle","tag-ordinateur-quantique","tag-science","tag-science-and-technology","tag-sciences","tag-sciences-et-technologies","tag-suisse","tag-technologie","tag-technologies","tag-technology"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/117144468965275229","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/272852","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=272852"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/272852\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/272853"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=272852"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=272852"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=272852"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}