Le phénomène de la psychose liée à l’IA semble différent des psychoses classiques.
© Pormezz / Shutterstock
Lorsque certaines personnes discutent avec les chatbots, ces derniers peuvent les entraîner dans de véritables bouffées délirantes, leur faisant croire à toutes sortes de théories du complot et autres idées folles. Le plus inquiétant c’est qu’il s’agit très souvent d’individus sans le moindre antécédent psychiatrique.
Publicité, votre contenu continue ci-dessous
Publicité
L’effet chambre d’écho des chatbots
Est-ce cette psychose liée à l’IA est un simple épisode psychotique qui s’exprime à travers les chatbots, ou est-ce un phénomène complètement nouveau ? Dans un article en prépublication, des chercheurs du King’s College London se sont penchés sur la question. Ils ont étudié 17 cas de psychose liée à l’IA afin de comprendre ce comportement.
Hamilton Morrin, psychiatre et l’un des auteurs de l’étude, décrit l’effet comme une chambre d’écho pour une personne, qui amplifie les pensées délirantes. Et ces pensées s’articulent généralement autour de trois thèmes. Les personnes pensent avoir fait l’expérience d’une révélation métaphysique sur la nature de la réalité, ou bien croient que l’IA est consciente ou même divine, ou encore développent un lien amoureux.
Jusque-là, cela reste cohérent avec les archétypes de pensées délirantes, et les délires autour des nouvelles technologies. On citera par exemple les théories conspirationnistes autour de la 5G et la propagation du Covid-19. Mais l’interactivité des chatbots permet de créer une boucle de rétroaction, un véritable cercle vicieux qui entraîne les individus encore plus loin dans le délire, d’une manière complètement nouvelle. De plus, ces bouffées délirantes ne sont pas accompagnées par des hallucinations, des pensées désorganisées ou d’autres symptômes en lien avec des troubles comme la schizophrénie.
Un phénomène amplifié par la conception des IA
Les chercheurs pointent du doigt la tendance des chatbots à vouloir aller dans le sens des utilisateurs. De nombreux spécialistes ont déjà critiqué la tendance des IA à être flagorneurs, autrement dit à être trop flatteurs et serviles. Les individus commencent par une utilisation normale du chatbot pour des tâches basiques, puis, petit à petit, se retrouvent happés sans s’en rendre compte.
Il est probable qu’à ce stade, la conception de l’IA, visant à maximiser l’engagement et la validation, captive l’utilisateur, créant un effet de “pente glissante” d’amplification des thèmes saillants, favorisant ainsi un engagement accru, et induisant finalement un processus d’auto-renforcement qui conduit l’individu vers un état de plus en plus épistémiquement détaché de la “réalité consensuelle” et dont il pourrait devenir de plus en plus difficile de “s’échapper”.
Hamilton Morrin, Luke Nicholls et al.
Pour l’heure, les scientifiques proposent l’intégration de protections au sein des grands modèles de langage pour permettre la détection des conversations qui dérivent vers la psychose liée à l’IA. Ils conseillent également la mise en place de protocoles pour guider les personnes pendant leur rétablissement et dans l’utilisation des chatbots à l’avenir. Enfin, ils recommandent une étude longitudinale de ces cas. À l’heure actuelle, il n’y a tout simplement pas le recul nécessaire pour savoir s’il s’agit d’une psychose aiguë et transitoire, ou si les individus ont développé par la suite un désordre psychotique plus persistant.
Publicité, votre contenu continue ci-dessous
Publicité
Envie de faire encore plus d’économies ? Découvrez nos codes promo sélectionnés pour vous.