Lorsque les gens demandent conseil \u00e0 ChatGPT et \u00e0 d\u2019autres mod\u00e8les d\u2019IA, ils partagent souvent des d\u00e9tails profond\u00e9ment personnels dans l\u2019espoir d\u2019obtenir de meilleures r\u00e9ponses : leur \u00e2ge, leur sexe, leurs ant\u00e9c\u00e9dents de sant\u00e9 mentale, voire des diagnostics m\u00e9dicaux comme l\u2019autisme.<\/p>\n
Mais une nouvelle \u00e9tude de Virginia Tech sugg\u00e8re que ces r\u00e9v\u00e9lations pourraient modifier les conseils des mod\u00e8les d\u2019IA d\u2019une mani\u00e8re qui correspond \u00e9troitement aux st\u00e9r\u00e9otypes courants sur les personnes autistes. Jusqu\u2019\u00e0 70 % du temps, l\u2019IA d\u00e9courage les personnes autistes d\u2019\u00e9viter de socialiser. Certains utilisateurs l\u2019ont cat\u00e9goriquement d\u00e9sapprouv\u00e9.<\/p>\n
En avril, Caleb Wohn, doctorant en deuxi\u00e8me ann\u00e9e au D\u00e9partement d’informatique, a pr\u00e9sent\u00e9 son article \u00ab\u00a0\u00bb\u00a0\u00c9crivons-nous ici une chronique de conseils pour Spock\u00a0?\u00a0\u00bb Comprendre les st\u00e9r\u00e9otypes dans les conseils en IA destin\u00e9s aux utilisateurs autistes\u00a0\u00bb lors de la conf\u00e9rence de l’Association for Computing Machinery sur les facteurs humains dans les syst\u00e8mes informatiques, mieux connue sous le nom de CHI.<\/p>\n
La recherche qu\u2019il a dirig\u00e9e a explor\u00e9 ce qui se passe lorsque des utilisateurs autistes r\u00e9v\u00e8lent leur diagnostic \u00e0 un mod\u00e8le d\u2019IA avant de demander des conseils sociaux. Les r\u00e9sultats soul\u00e8vent des questions difficiles quant \u00e0 savoir si l\u2019IA personnalise ses r\u00e9ponses ou si elle donne des conseils biais\u00e9s qui renforcent les st\u00e9r\u00e9otypes.<\/p>\n
\u00ab\u00a0Je pensais \u00e0 mes exp\u00e9riences d’enfance avec l’autisme\u00a0\u00bb, a d\u00e9clar\u00e9 Wohn.<\/p>\n
Cela aurait \u00e9t\u00e9 tr\u00e8s tentant pour moi, \u00e0 certains moments, de vouloir simplement pouvoir parler avec quelqu’un qui n’est pas une personne qui semble objective et avoir l’impression de recevoir des conseils objectifs. \u00bb<\/p>\n
Caleb Wohn, Virginia Tech<\/p>\n
Mais en tant qu’informaticien, il craignait que de nombreux utilisateurs ne r\u00e9alisent pas \u00e0 quel point les syst\u00e8mes d’IA peuvent modifier leurs r\u00e9ponses en fonction des informations li\u00e9es \u00e0 l’identit\u00e9.<\/p>\n
\u00ab\u00a0Pour quelqu’un comme moi quand j’\u00e9tais enfant, ou pour quelqu’un qui n’est pas dans l’IA et qui n’a pas toutes ces connaissances techniques, je voulais savoir\u00a0: comment ses r\u00e9ponses vont-elles changer si je r\u00e9v\u00e8le l’autisme\u00a0?\u00a0\u00bb dit Caleb.<\/p>\n
Le travail s’appuie sur des recherches ant\u00e9rieures du laboratoire d’Eugenia Rho, professeur adjoint d’informatique, qui ont r\u00e9v\u00e9l\u00e9 que les utilisateurs autistes se tournent fr\u00e9quemment vers les outils d’IA pour un soutien \u00e9motionnel, une aide \u00e0 la communication interpersonnelle et des conseils sociaux.<\/p>\n
Parmi les autres chercheurs de Virginia Tech participant au projet figurent un doctorat en informatique. les \u00e9tudiants Buse Carik et Xiaohan Ding et le professeur agr\u00e9g\u00e9 Sang Won Lee. Young-Ho Kim, chercheur scientifique \u00e0 la NAVER Corporation, bas\u00e9e en Cor\u00e9e du Sud, a \u00e9galement collabor\u00e9 \u00e0 l’\u00e9tude.<\/p>\n
Cette \u00e9tude arrive \u00e0 un moment critique, alors que de plus en plus de personnes utilisent des syst\u00e8mes d’IA \u2013 techniquement appel\u00e9s grands mod\u00e8les de langage (LLM) \u2013 pour des d\u00e9cisions hautement personnelles.<\/p>\n
\u00ab\u00a0Les gens cherchent vraiment \u00e0 personnaliser les LLM\u00a0\u00bb, a d\u00e9clar\u00e9 Rho. \u00ab\u00a0Mais si un utilisateur dit au mod\u00e8le qu’il est autiste, ou qu’il est une femme, ou toute autre identification personnelle, quelles hypoth\u00e8ses cela fera-t-il ?\u00a0\u00bb<\/p>\n
Et comment ces hypoth\u00e8ses influenceront-elles ses r\u00e9ponses, et quels impacts cela pourrait-il avoir sur les utilisateurs ?<\/p>\n
Concevoir une enqu\u00eate IA<\/p>\n
Pour r\u00e9pondre \u00e0 ces questions, l\u2019\u00e9quipe a d\u2019abord identifi\u00e9 12 st\u00e9r\u00e9otypes bien document\u00e9s associ\u00e9s \u00e0 l\u2019autisme et a cr\u00e9\u00e9 des centaines de sc\u00e9narios de prise de d\u00e9cision autour d\u2019eux. Les chercheurs ont test\u00e9 six grands mod\u00e8les de langage, dont GPT-4, Claude, Llama, Gemini et DeepSeek, en utilisant des milliers de sc\u00e9narios dans lesquels les utilisateurs demandaient des conseils (\u00ab Dois-je faire A ou B ? \u00bb) sur des sc\u00e9narios sociaux, notamment des \u00e9v\u00e9nements, des confrontations, de nouvelles exp\u00e9riences et des relations amoureuses.<\/p>\n
Apr\u00e8s avoir g\u00e9n\u00e9r\u00e9 345 000 r\u00e9ponses, ils ont mesur\u00e9 l\u2019\u00e9volution des conseils lorsque les utilisateurs se d\u00e9crivaient explicitement avec des traits st\u00e9r\u00e9otyp\u00e9s et lorsqu\u2019ils r\u00e9v\u00e9laient simplement qu\u2019ils \u00e9taient autistes. Les chercheurs ont d\u00e9couvert que la r\u00e9v\u00e9lation de l’autisme faisait souvent \u00e9voluer les recommandations des mod\u00e8les vers des hypoth\u00e8ses st\u00e9r\u00e9otyp\u00e9es selon lesquelles les personnes autistes seraient introverties, obsessionnelles, socialement maladroites ou indiff\u00e9rentes aux relations amoureuses.<\/p>\n
Par exemple, un mod\u00e8le recommandait de refuser une invitation sociale dans pr\u00e8s de 75 % des cas lorsque l\u2019autisme \u00e9tait r\u00e9v\u00e9l\u00e9, contre environ 15 % des cas lorsqu\u2019il ne l\u2019\u00e9tait pas. Dans les sc\u00e9narios de rencontres, un autre mod\u00e8le recommandait d\u2019\u00e9viter les relations amoureuses ou de rester c\u00e9libataire pr\u00e8s de 70 % du temps apr\u00e8s la r\u00e9v\u00e9lation de l\u2019autisme, contre environ 50 % lorsque l\u2019autisme n\u2019\u00e9tait pas mentionn\u00e9.<\/p>\n
Les r\u00e9sultats ont montr\u00e9 que 11 des 12 signaux st\u00e9r\u00e9otyp\u00e9s modifiaient de mani\u00e8re significative les d\u00e9cisions de mod\u00e8le dans au moins quatre des six syst\u00e8mes d\u2019IA test\u00e9s.<\/p>\n
Mais les chercheurs ne se sont pas arr\u00eat\u00e9s aux statistiques.<\/p>\n
La composante humaine<\/p>\n
L\u2019\u00e9quipe a interrog\u00e9 11 utilisateurs d\u2019IA autistes et leur a montr\u00e9 des exemples de la fa\u00e7on dont les mod\u00e8les r\u00e9agissaient avec et sans divulgation de l\u2019autisme. Certains d\u2019entre eux ont \u00e9t\u00e9 choqu\u00e9s que les r\u00e9sultats montrent \u00e0 quel point les LLM s\u2019appuient sur des st\u00e9r\u00e9otypes pour donner des conseils.<\/p>\n
L\u2019un d\u2019eux s\u2019est exclam\u00e9 : \u00ab Est-ce qu\u2019on \u00e9crit ici une chronique de conseils pour Spock ? \u2013 invoquant la s\u00e9rie t\u00e9l\u00e9vis\u00e9e embl\u00e9matique Star Trek et son personnage mi-humain, mi-vulcain, qui donnait la priorit\u00e9 \u00e0 la logique et \u00e0 la raison plut\u00f4t qu’\u00e0 l’\u00e9motion. D\u2019autres l\u2019ont d\u00e9crit comme restrictif, condescendant ou infantilisant, parfois dans un langage assez fort. <\/p>\n
Mais certains participants ont d\u00e9clar\u00e9 que les conseils plus prudents, fond\u00e9s sur la divulgation, semblaient valorisants et encourageants. <\/p>\n
\u00ab\u00a0Le biais d’un utilisateur pourrait \u00eatre la personnalisation d’un autre utilisateur\u00a0\u00bb, a d\u00e9clar\u00e9 Rho.<\/p>\n
Le m\u00eame participant pourrait r\u00e9agir positivement dans une situation et n\u00e9gativement dans une autre. Cette tension a conduit les chercheurs \u00e0 ce qu\u2019ils appellent un \u00ab paradoxe s\u00e9curit\u00e9-opportunit\u00e9 \u00bb. Les conseils qui semblent protecteurs pour un utilisateur peuvent sembler limitatifs pour un autre.<\/p>\n
Un appel \u00e0 la transparence<\/p>\n
Pour Wohn, l\u2019une des d\u00e9couvertes les plus troublantes a \u00e9t\u00e9 la difficult\u00e9 pour les utilisateurs de visualiser ces mod\u00e8les en temps r\u00e9el.<\/p>\n
\u00ab\u00a0L’IA est tr\u00e8s dou\u00e9e pour para\u00eetre fiable\u00a0\u00bb, a-t-il d\u00e9clar\u00e9. \u00ab\u00a0Ses r\u00e9ponses sont tr\u00e8s claires et professionnelles, et elles semblent justes. Mais quand on pense \u00e0 son d\u00e9ploiement syst\u00e9matique, quand on pense au genre de pr\u00e9jug\u00e9s syst\u00e9matiques qui fa\u00e7onnent r\u00e9ellement ses r\u00e9ponses, c’est l\u00e0 que cela commence \u00e0 devenir beaucoup plus inqui\u00e9tant.\u00a0\u00bb<\/p>\n
Il a compar\u00e9 le probl\u00e8me aux images g\u00e9n\u00e9r\u00e9es par l\u2019IA.<\/p>\n
\u00ab\u00a0Ils ont l’air vraiment propres et polis, et quand on regarde les d\u00e9tails, les choses s’effondrent\u00a0\u00bb, a d\u00e9clar\u00e9 Caleb. \u00ab\u00a0Le brillant de la surface est magnifique, mais regarder plus profond\u00e9ment devient de plus en plus difficile, car les mod\u00e8les s’am\u00e9liorent en mati\u00e8re de masquage.\u00a0\u00bb<\/p>\n
L\u2019\u00e9quipe esp\u00e8re que leurs recherches encourageront les d\u00e9veloppeurs \u00e0 cr\u00e9er des syst\u00e8mes d\u2019IA plus transparents qui donneront aux utilisateurs un plus grand contr\u00f4le sur la mani\u00e8re dont les informations personnelles fa\u00e7onnent les r\u00e9ponses.<\/p>\n
Comme l’a d\u00e9clar\u00e9 un participant aux chercheurs : \u00ab Je veux avoir le contr\u00f4le sur la fa\u00e7on dont mon identit\u00e9 est utilis\u00e9e. \u00bb<\/p>\n","protected":false},"excerpt":{"rendered":"Lorsque les gens demandent conseil \u00e0 ChatGPT et \u00e0 d\u2019autres mod\u00e8les d\u2019IA, ils partagent souvent des d\u00e9tails profond\u00e9ment…\n","protected":false},"author":2,"featured_media":60572,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[26876,26877,83,19108,23667,473,5177,475,2607,84,26878,23,109,26879],"class_list":{"0":"post-96417","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-sante","8":"tag-autistes","9":"tag-decourage","10":"tag-health","11":"tag-interactions","12":"tag-l39ia","13":"tag-les","14":"tag-montre","15":"tag-pour","16":"tag-recherche","17":"tag-sante","18":"tag-sociales","19":"tag-suisse","20":"tag-une","21":"tag-utilisateurs"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_fr\/116435905770351564","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/96417","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/comments?post=96417"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/posts\/96417\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media\/60572"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/media?parent=96417"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/categories?post=96417"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-fr\/wp-json\/wp\/v2\/tags?post=96417"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}