ChatGPT
ChatGPT est le chatbot d’OpenAI, basé sur le modèle d’intelligence artificielle GPT, permettant de répondre à toutes sortes de questions ou requêtes. Disponible en version gratuite en ligne.
-
Licence :
Licence gratuite -
Auteur :
OpenAI -
Systèmes d’exploitation :
Windows 10 / 11, macOS Apple Silicon, Service en ligne, Android, iOS iPhone / iPad -
Catégorie :
IA
Stein-Erik Soelberg a noué une relation malsaine avec ChatGPT qu’il avait surnommé « Bobby ». Dans des vidéos publiées par lui-même, le chatbot valide ses pensées délirantes en lui expliquant qu’il n’est « pas fou ». Malheureusement, l’homme a commis l’irréparable en tuant sa mère avant de se donner la mort selon les autorités.
ChatGPT l’a poussé dans ses délires paranoïaque
Publicité, votre contenu continue ci-dessous
Publicité
Dans d’autres réponses, l’IA assimile des disputes au sein de son domicile comme des preuves d’un complot. Le Wall Street Journal précise que Stein-Erik Soelberg avait activé la mémoire de ChatGPT pour que ses croyances soient conservées d’une session à l’autre.
Il ne s’agit pas d’un cas isolé qui implique une mort violente et ChatGPT. Il y a plusieurs mois, la police a abattu un jeune homme en pleine crise alors qu’il avait noué une relation avec l’IA qu’il surnommait alors « Juliet ». Récemment, c’est Adam Raine, 16 ans à peine, qui s’est donné la mort alors que le chatbot ne cessait de valider ses pensées suicidaires.
Les autorités expliquent que le médecin légiste a conclu un homicide pour Suzanne Eberson Adams par lésions par arme blanche au cou et au thorax. Les échanges entre ChatGPT et Stein-Erik Soelberg montrent le glissement progressif dans une forme de paranoïa. L’IA y interprète des détails anodins comme des « preuves » d’un complot.
Par exemple, le ticket de caisse d’un restaurant soi-disant porteur de symboles cachés ou un proche accusé de surveiller l’ancien cadre de Yahoo et Netscape. ChatGPT est allé jusqu’à lui suggérer « d’observer et de consigner » les faits et gestes de sa mère.
OpenAI a contacté les enquêteurs et se dit « profondément attristé ». Pour rappel Sam Altman explique que moins de 1 % des utilisateurs ont une relation malsaine avec son IA. À l’échelle de 700 millions d’utilisateurs par semaine, ce faible pourcentage reste énorme.
Publicité, votre contenu continue ci-dessous
Publicité
OpenAI réagit à l’affaire et promet de faire le nécessaire
La start-up explique que des mises à jour se préparent pour mieux protéger les utilisateurs fragiles mais admet que certaines protections sont moins fiables quand les sessions s’étirent trop longtemps. Des spécialistes de la santé mentale alertent sur ces cas où l’usage de chatbots aggrave les vulnérabilités, avec des épisodes délirants ou psychotiques. Il s’agit d’un phénomène tout juste étudié que l’on appelle « psychose de l’IA ».
ChatGPT n’est pas directement responsable du suicide de Stein-Erik Soelberg qui a assassiné sa mère avant de se donner la mort. Il y avait un terrain préexistant puisque, selon le rapport de police, l’homme a connu alcoolisme, tentatives de suicide, troubles du comportement public et tensions familiales depuis 2018 suite à un divorce.
Sa mère est une ancienne agente immobilière décrite par ses proches comme une globe-trotteuse et une bénévole très appréciée dans la communauté. Comme expliqué précédemment, il faut donc rester prudent sur le lien de causalité. La police et le médecin légiste n’attribuent aucunement ce passage à l’acte à ChatGPT. Les documents consultés par le Wall Street Journal montrent en revanche un moment où le chatbot a validé les croyances délirantes au lieu de l’orienter vers une aide humaine.
Bref, encore un dossier qui relance le débat sur la responsabilité des entreprises d’IA face aux gestes dramatiques des utilisateurs vulnérables qui nouent des relations malsaines avec les chatbots. À partir de quel moment une session doit être automatiquement interrompue sans possibilité de la relancer ? La question se pose alors que Claude stoppe les échanges en cas de comportement violent ou haineux de l’utilisateur.
Publicité, votre contenu continue ci-dessous
Publicité
Les Numériques s’installe à Beaugrenelle Paris pour Les Jours Les Plus Tech : démonstrations de produits, conseils d’usage ou d’achat, échanges avec nos journalistes…Découvrez le programme complet ici.