<\/p>\n
Le ph\u00e9nom\u00e8ne de la psychose li\u00e9e \u00e0 l\u2019IA semble diff\u00e9rent des psychoses classiques.<\/p>\n
\u00a9 Pormezz \/ Shutterstock<\/p>\n<\/p>\n
Lorsque certaines personnes discutent avec les chatbots, ces derniers peuvent les entra\u00eener dans de v\u00e9ritables bouff\u00e9es d\u00e9lirantes, leur faisant croire \u00e0 toutes sortes de th\u00e9ories du complot et autres id\u00e9es folles. Le plus inqui\u00e9tant c\u2019est qu\u2019il s\u2019agit tr\u00e8s souvent d\u2019individus sans le moindre ant\u00e9c\u00e9dent psychiatrique.<\/p>\n
Publicit\u00e9, votre contenu continue ci-dessous<\/p>\n
Publicit\u00e9<\/p>\n
L\u2019effet chambre d\u2019\u00e9cho des chatbots<\/p>\n
Est-ce cette psychose li\u00e9e \u00e0 l\u2019IA est un simple \u00e9pisode psychotique qui s\u2019exprime \u00e0 travers les chatbots, ou est-ce un ph\u00e9nom\u00e8ne compl\u00e8tement nouveau ? Dans un article en pr\u00e9publication, des chercheurs du King’s College London se sont pench\u00e9s sur la question. Ils ont \u00e9tudi\u00e9 17 cas de psychose li\u00e9e \u00e0 l\u2019IA afin de comprendre ce comportement.<\/p>\n
Hamilton Morrin, psychiatre et l\u2019un des auteurs de l\u2019\u00e9tude, d\u00e9crit l\u2019effet comme une chambre d\u2019\u00e9cho pour une personne, qui amplifie les pens\u00e9es d\u00e9lirantes. Et ces pens\u00e9es s\u2019articulent g\u00e9n\u00e9ralement autour de trois th\u00e8mes. Les personnes pensent avoir fait l\u2019exp\u00e9rience d\u2019une r\u00e9v\u00e9lation m\u00e9taphysique sur la nature de la r\u00e9alit\u00e9, ou bien croient que l\u2019IA est consciente ou m\u00eame divine, ou encore d\u00e9veloppent un lien amoureux.<\/p>\n
Jusque-l\u00e0, cela reste coh\u00e9rent avec les arch\u00e9types de pens\u00e9es d\u00e9lirantes, et les d\u00e9lires autour des nouvelles technologies. On citera par exemple les th\u00e9ories conspirationnistes autour de la 5G et la propagation du Covid-19. Mais l\u2019interactivit\u00e9 des chatbots permet de cr\u00e9er une boucle de r\u00e9troaction, un v\u00e9ritable cercle vicieux qui entra\u00eene les individus encore plus loin dans le d\u00e9lire, d\u2019une mani\u00e8re compl\u00e8tement nouvelle. De plus, ces bouff\u00e9es d\u00e9lirantes ne sont pas accompagn\u00e9es par des hallucinations, des pens\u00e9es d\u00e9sorganis\u00e9es ou d\u2019autres sympt\u00f4mes en lien avec des troubles comme la schizophr\u00e9nie.<\/p>\n
Un ph\u00e9nom\u00e8ne amplifi\u00e9 par la conception des IA<\/p>\n
Les chercheurs pointent du doigt la tendance des chatbots \u00e0 vouloir aller dans le sens des utilisateurs. De nombreux sp\u00e9cialistes ont d\u00e9j\u00e0 critiqu\u00e9 la tendance des IA \u00e0 \u00eatre flagorneurs, autrement dit \u00e0 \u00eatre trop flatteurs et serviles. Les individus commencent par une utilisation normale du chatbot pour des t\u00e2ches basiques, puis, petit \u00e0 petit, se retrouvent happ\u00e9s sans s\u2019en rendre compte.<\/p>\n
\nIl est probable qu’\u00e0 ce stade, la conception de l’IA, visant \u00e0 maximiser l’engagement et la validation, captive l’utilisateur, cr\u00e9ant un effet de \u201cpente glissante\u201d d’amplification des th\u00e8mes saillants, favorisant ainsi un engagement accru, et induisant finalement un processus d’auto-renforcement qui conduit l’individu vers un \u00e9tat de plus en plus \u00e9pist\u00e9miquement d\u00e9tach\u00e9 de la \u201cr\u00e9alit\u00e9 consensuelle\u201d et dont il pourrait devenir de plus en plus difficile de \u201cs’\u00e9chapper\u201d.<\/p>\n
Hamilton Morrin, Luke Nicholls et al.<\/p><\/blockquote>\n
Pour l\u2019heure, les scientifiques proposent l\u2019int\u00e9gration de protections au sein des grands mod\u00e8les de langage pour permettre la d\u00e9tection des conversations qui d\u00e9rivent vers la psychose li\u00e9e \u00e0 l\u2019IA. Ils conseillent \u00e9galement la mise en place de protocoles pour guider les personnes pendant leur r\u00e9tablissement et dans l\u2019utilisation des chatbots \u00e0 l\u2019avenir. Enfin, ils recommandent une \u00e9tude longitudinale de ces cas. \u00c0 l\u2019heure actuelle, il n\u2019y a tout simplement pas le recul n\u00e9cessaire pour savoir s\u2019il s\u2019agit d\u2019une psychose aigu\u00eb et transitoire, ou si les individus ont d\u00e9velopp\u00e9 par la suite un d\u00e9sordre psychotique plus persistant.<\/p>\n
Publicit\u00e9, votre contenu continue ci-dessous<\/p>\n
Publicit\u00e9<\/p>\n