L\u2019homme de 60 ans souffrait de parano\u00efa et d\u2019hallucinations ainsi que divers sympt\u00f4mes qui ont conduit le personnel m\u00e9dical \u00e0 diagnostiquer le bromisme, une maladie provoqu\u00e9e par l\u2019ingestion de bromure dont les sympt\u00f4mes sont heureusement r\u00e9versibles.<\/p>\n
Il ne faut pas croire tout ce qu\u2019on lit sur internet. Cette maxime devient d\u2019autant plus vraie \u00e0 l\u2019air des conversations avec des IA g\u00e9n\u00e9ratives. Apr\u00e8s un lyc\u00e9en sanctionn\u00e9 pour avoir trich\u00e9 au bac en utilisant ChatGPT<\/a>, un homme a subi une sanction autrement plus s\u00e9v\u00e8re en faisant confiance au chatbot d\u2019OpenAI, qui vient tout juste de passer \u00e0 sa version\u00a05<\/a>.<\/p>\n L\u2019homme, \u00e2g\u00e9 de 60\u00a0ans, s\u2019est pr\u00e9sent\u00e9 aux urgences en arguant que son voisin tentait de l\u2019empoisonner, comme le rapporte Ars Technica<\/a> sur la base d\u2019un article scientifique publi\u00e9 dans les Annals of Internal Medicine\u00a0: Clinical Case<\/a>. L\u2019homme n\u2019avait ni pr\u00e9c\u00e9dents psychiatriques et les premi\u00e8res analyses r\u00e9alis\u00e9es par le personnel soignant semblaient normales. Apr\u00e8s consultation avec le centre antipoison, la th\u00e8se du bromisme est apparue assez rapidement comme l\u2019option la plus probable, une maladie bien connue au d\u00e9but du XXe\u00a0si\u00e8cle provoquant des sympt\u00f4mes neuropsychiatriques et dermatologiques suite \u00e0 l\u2019ingestion de bromure, alors tr\u00e8s pr\u00e9sent dans de nombreux m\u00e9dicaments et utilis\u00e9 aujourd\u2019hui dans l\u2019entretien des spas.<\/p>\n ChatGPT a sugg\u00e9r\u00e9 le bromure de sodium pour remplacer le sel de table <\/p>\n Une fois admis, le patient a d\u00e9clar\u00e9 qu\u2019il suivait diverses restrictions alimentaires et qu\u2019il distillait sa propre eau \u00e0 la maison. Un d\u00e9tail pas anodin, puisque le personnel soignant a remarqu\u00e9 que le sexag\u00e9naire refusait l\u2019eau qui lui \u00e9tait propos\u00e9e, malgr\u00e9 une soif apparente. Durant les 24\u00a0premi\u00e8res de son hospitalisation, l\u2019homme a manifest\u00e9 une parano\u00efa croissante, ainsi que des hallucinations auditives et auditives. Apr\u00e8s une tentative de fuite, il a \u00e9t\u00e9 admis au service psychiatrique. Apr\u00e8s quelque temps, le patient a d\u00e9crit divers sympt\u00f4mes amenant \u00e0 nouveau les m\u00e9decins vers la th\u00e8se du bromisme.<\/p>\n Ils ont alors pu remonter le fil. L\u2019homme a expliqu\u00e9 qu\u2019apr\u00e8s \u00ab\u00a0lu des articles sur les effets n\u00e9gatifs du chlorure de sodium, ou sel de table, sur la sant\u00e9\u00a0\u00bb, il a d\u00e9cid\u00e9 de se baser sur ses \u00e9tudes de nutrition \u00e0 l\u2019universit\u00e9 pour tenter de mener une \u00ab\u00a0exp\u00e9rience personnelle pour \u00e9liminer le chlorure de son alimentation\u00a0\u00bb. C\u2019est l\u00e0 qu\u2019entre en sc\u00e8ne l\u2019IA g\u00e9n\u00e9rative bien connue\u00a0: le patient a alors remplac\u00e9 le chlorure de sodium par du bromure de sodium achet\u00e9 sur internet, apr\u00e8s que l\u2019id\u00e9e lui a \u00e9t\u00e9 souffl\u00e9e par ChatGPT.<\/p>\n Apr\u00e8s trois semaines d\u2019hospitalisation et une interruption totale de son ingestion de bromure, les sympt\u00f4mes du patient se consid\u00e9rablement am\u00e9lior\u00e9s. Il a pu rentrer chez lui avec deux semaines de check-in r\u00e9guliers aupr\u00e8s de l\u2019h\u00f4pital.<\/p>\n Des conclusions int\u00e9ressantes sur le rapport IA g\u00e9n\u00e9ratives et sant\u00e9 <\/p>\n Les auteurs de l\u2019article scientifique tirent diverses conclusions de cette m\u00e9saventure. Au-del\u00e0 des consid\u00e9rations m\u00e9dicales dans lesquelles nous ne nous aventurerons pas, ils avancent ceci\u00a0:<\/p>\n \u00ab\u00a0Ce cas met \u00e9galement en \u00e9vidence la fa\u00e7on dont l\u2019utilisation de l\u2019intelligence artificielle (IA) peut potentiellement contribuer au d\u00e9veloppement d\u2019effets ind\u00e9sirables \u00e9vitables sur la sant\u00e9. D\u2019apr\u00e8s la chronologie de ce cas, il semble que le patient ait consult\u00e9 ChatGPT\u00a03.5 ou 4.0 lorsqu\u2019il s\u2019est demand\u00e9 comment il pourrait \u00e9liminer le chlorure de son r\u00e9gime alimentaire. Malheureusement, nous n\u2019avons pas acc\u00e8s \u00e0 son journal de conversation ChatGPT et nous ne pourrons jamais savoir avec certitude quelle a \u00e9t\u00e9 la r\u00e9ponse qu\u2019il a re\u00e7ue, puisque les r\u00e9ponses individuelles sont uniques et se construisent \u00e0 partir des entr\u00e9es pr\u00e9c\u00e9dentes.\u00a0\u00bb Cela pose donc la question de l\u2019acc\u00e8s aux donn\u00e9es des IA g\u00e9n\u00e9ratives lorsque leur utilisation m\u00e8ne \u00e0 des situations dangereuses en effet.<\/p>\n Autre consid\u00e9ration, les scientifiques ont utilis\u00e9 ChatGPT avec GPT\u00a03.5 afin de voir s\u2019ils obtenaient une r\u00e9ponse similaire au patient. Et en effet, ils \u00e9crivent\u00a0: \u00ab\u00a0nous avons \u00e9galement obtenu une r\u00e9ponse qui incluait le bromure. Bien que la r\u00e9ponse indique que le contexte est important, elle ne fournit pas d\u2019avertissement sanitaire sp\u00e9cifique et ne demande pas non plus pourquoi nous voulons savoir, comme nous supposons qu\u2019un professionnel de la sant\u00e9 le ferait.\u00a0\u00bb<\/p>\n Tout cela les am\u00e8ne \u00e0 conclure que \u00ab\u00a0ChatGPT et d\u2019autres syst\u00e8mes d\u2019IA peuvent g\u00e9n\u00e9rer des inexactitudes scientifiques, manquer de capacit\u00e9 \u00e0 discuter les r\u00e9sultats de mani\u00e8re critique et, en fin de compte, alimenter la diffusion de fausses informations.\u00a0\u00bb S\u2019ils voient les bienfaits de cet \u00ab\u00a0outil tr\u00e8s prometteur pour jeter un pont entre les scientifiques et la population non universitaire\u00a0\u00bb, ils soulignent \u00ab\u00a0le risque de promulguer des informations d\u00e9contextualis\u00e9es\u00a0\u00bb. Ils encouragent les soignants \u00e0 commencer \u00e0 prendre en compte l\u2019essor de cette technologie \u00ab\u00a0lorsqu\u2019ils chercheront \u00e0 savoir o\u00f9 leurs patients consomment des informations sur la sant\u00e9\u00a0\u00bb.<\/p>\n \ud83d\udd34 Pour ne manquer aucune actualit\u00e9 de 01net, suivez-nous sur Google Actualit\u00e9s<\/a> et WhatsApp<\/a>.<\/p>\n<\/blockquote>\n","protected":false},"excerpt":{"rendered":"L\u2019homme de 60 ans souffrait de parano\u00efa et d\u2019hallucinations ainsi que divers sympt\u00f4mes qui ont conduit le personnel…\n","protected":false},"author":2,"featured_media":308354,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10],"tags":[1011,27,72,71],"class_list":{"0":"post-308353","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-sante","8":"tag-fr","9":"tag-france","10":"tag-health","11":"tag-sante"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@fr\/115001512963500255","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/posts\/308353","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/comments?post=308353"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/posts\/308353\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/media\/308354"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/media?parent=308353"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/categories?post=308353"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/fr\/wp-json\/wp\/v2\/tags?post=308353"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n