Les symptômes du bromisme sont des nausées, des vomissements, mais aussi de l’hypothermie, des tremblements, ou encore la confusion.
IA – Ne croyez jamais les intelligences artificielles sur parole. Dans un article intitulé « Un cas de bromisme influencé par l’usage de l’intelligence artificielle » publié ce mois d’août dans la revue scientifique Annales de la médecine interne, trois médecins de l’université de Washington sont revenus sur le témoignage d’un patient des urgences, dont le problème de santé était lié… à ChatGPT.
« Un homme de 60 ans sans antécédents psychiatriques ou médicaux reçu aux urgences explique avoir peur que son voisin l’empoisonne », décrit l’article, repéré par The Guardian. « Le patient a affirmé avoir de multiples restrictions alimentaires, et qu’il distillait sa propre eau chez lui. Il a été remarqué qu’il avait très soif, mais qu’il était paranoïaque vis-à-vis de l’eau qui lui était offerte », peut-on lire.
Les prises de sang effectuées sur le sexagénaire ont permis de lui diagnostiquer un bromisme : une intoxication au brome, une substance utilisée entre autres pour désinfecter l’eau des piscines.
« Éliminer le chlorure de sodium de son alimentation »
Interrogé par les médecins, le patient détaille qu’après avoir lu beaucoup de choses sur les effets négatifs du sel sur la santé, il a décidé d’éliminer le chlorure de sodium de son alimentation pendant trois mois. Pour savoir comment le remplacer, il s’est tourné vers ChatGPT et a commencé à prendre du sel de bromure de sodium à la place. Ce, malgré avoir lu que « le chlorure peut être remplacé par du bromure, principalement pour d’autres fonctions comme pour le nettoyage ». Les symptômes du bromisme sont des nausées, des vomissements, mais aussi de l’hypothermie, des tremblements, ou encore la confusion.
Un cas qui souligne la manière dont l’usage de l’intelligence artificielle peut créer des accidents domestiques. « Malheureusement, nous n’avons pas accès à sa conversation et nous ne saurons jamais quel conseil exact il a reçu, puis que les réponses de ChatGPT sont individuelles et uniques. Cependant, quand nous avons demandé à ChatGPT 3.5 par quoi le chloride pouvait être remplacé, nous avons reçu une réponse qui incluait le bromure. Bien que la réponse précisait que cela dépendait du contexte, nous n’avons pas reçu d’avertissement de santé, ou de question demandant pourquoi nous voulions avoir cette information que pourrait poser un professionnel de santé. »
Depuis ce cas, la version 5 de ChatGPT a été lancée. Une mise à jour dont les créateurs affirment qu’elle sera meilleure pour répondre aux questions relatives à la santé, mais qu’elle ne sera pourra jamais remplacer un professionnel. Pour les auteurs de l’article d’Annales de la médecine interne, les médecins doivent désormais prendre en compte l’usage de l’IA quand ils cherchent à savoir où leurs patients obtiennent leurs informations.