Le recours systématique à l’intelligence artificielle générative détériorerait les facultés cognitives permettant l’esprit critique

by CerveauRecyclable

25 comments

  3. > **Une étude conduite par Microsoft** et l’Université Carnegie Mellon

    Et bien colorez-moi surpris

  4. Résumé par ia /s :

    L’article de France TV Info explore les effets potentiellement négatifs de l’utilisation systématique de l’intelligence artificielle générative sur les facultés cognitives humaines. Une étude menée par Microsoft et l’Université Carnegie Mellon révèle que la délégation de tâches analytiques à l’IA pourrait entraîner une détérioration des capacités d’esprit critique et d’analyse.

    L’étude, réalisée sur un panel international de 319 professionnels utilisant régulièrement l’IA générative, montre que plus les utilisateurs se fient aux résultats fournis par l’IA, moins ils développent une pensée critique. Cette confiance aveugle pourrait mener à l’intégration d’erreurs dans des travaux plus larges, fragilisant ainsi des projets fondés sur ces éléments.

    Les chercheurs soulignent l’importance de concevoir des outils d’IA qui encouragent l’esprit critique et de continuer à investir dans la formation des utilisateurs pour qu’ils puissent identifier les erreurs potentielles générées par l’IA. L’article conclut sur la nécessité de rester informé des impacts de ces technologies sur nos modes de pensée et notre cerveau .

  7. NOOOOOOOOOOOOOOOOOOOOOOON… VRAIMENT ? OOOOOOOOOOOOOOOOH…

  8. Ha, voila mon p’tit bias de confirmation qui se réveille, c’est un truc que j’avais anticipé : en cours de psy cognitive on nous avait montré que quand on prend en photo quelque chose, on le retient moins bien, et les plus vieux d’entre nous se souvienne encore de vieux numéro de téléphone mémorisé au temps ou les répertoires n’était pas aussi accessibles.

    Dans mon souvenir c’était quelque chose du genre : quand l’info est stockée ailleurs, le cerveau mémorise comment accéder à l’information plutôt que l’information en elle-même.

    Et comme dans le cerveau, une fonction qu’on utilise pas laisse sa place à d’autres, si on utilise un objet pour réfléchir à notre place, alors, ça me paraît logique qu’on perde en capacité de réflexion.

    L’étude :

    [https://www.microsoft.com/en-us/research/uploads/prod/2025/01/lee_2025_ai_critical_thinking_survey.pdf](https://www.microsoft.com/en-us/research/uploads/prod/2025/01/lee_2025_ai_critical_thinking_survey.pdf)

    Edit : bon j’ai pas menti, c’est vraiment un biais de confirmation de ma part, l’étude ne dis pas que les capacité cognitive permettant l’esprit critique se détériore, elle dit que certains utilisateurs declarent moins utiliser leurs esprit critique, Y’a pas eu de test en situation contrôlé sur des taches nécessitant de l’esprit critique avec un groupe utilisateurs vs non utilisateurs

  9. est-ce que ce n’est pas du aussi au fait que les LLMs du marchés te disent tout le temps que le client a raison ?

  10. J’ai un collègue de classe ( master, bac+5) qui ne réfléchit plus.
    Quand quelqu’un demande quelque chose, il va directement au Mistral ou ChatGPT.
    Je n’imagine pas comment il va faire dans le futur car, nous faisions une master d’architecture et management

  12. Bref c’est comme toute chose dans la vie. Un peu, OK ; trop, c’est non.

  13. Je me demandais comment une étude pouvait déjà se prononcer sur les conséquences d’une utilisation systématiques des IA quand ces dernières sont si récentes, ils ont pas pu suivre une population au fil des années pour observer les évolutions.

    Et comme souvent [l’étude](https://www.microsoft.com/en-us/research/uploads/prod/2025/01/lee_2025_ai_critical_thinking_survey.pdf) est *significativement* moins catégorique (pour ne pas dire “putaclic”) que le titre ou l’article.

    L’étude dit surtout ça, pour reprendre l’abstract :

    > Quantitatively, when considering both task- and user-specific
    factors, a user’s task-specific self-confidence and confidence in
    GenAI are predictive of whether critical thinking is enacted and
    the effort of doing so in GenAI-assisted tasks.
    > Specifically, **higher
    confidence in GenAI is associated with less critical thinking, while
    higher self-confidence is associated with more critical thinking**.
    >
    > Qualitatively, GenAI **shifts the nature of critical thinking** toward
    information verification, response integration, and task stewardship.
    Our insights reveal new design challenges and opportunities for
    developing GenAI tools for knowledge work

    Le premier point : plus d’esprit critique quand on a plus confiance en ses propres connaissances qu’en l’IA. Oui, le contraire aurait été surprenant, on fait plus preuve d’esprit critique sur les sujets qu’on maîtrise. ~~En tout cas on est *très loin* du “utiliser l’IA inhibe l’esprit critique”.~~ edit : en fait ils disent bien ça dans la conclusion de l’étude.

    Le second point est intéressant mais à peine survolé dans l’article (alors que c’est un des points sur lesquels l’étude insiste le plus). Quand on utilise l’IA, on bascule vers d’autres formes d’esprit critique, avec en particulier plus de vérification.

    —

    Tout ça pour dire que c’est un sujet intéressant et qu’il y a bien des choses à observer, mais l’article est franchement pas au niveau.

  14. Quelle chance d’avoir appris à écrire le langage C **avec un bouquin** 🙂

    o/ Dennis Ritchie

  15. – Comment l’étude est faite : analyse d’une perception *subjective* de l’utilisation de l’esprit critique. Les personnes étudiées s’auto évaluent.

    – Comment les journalistes le décrivent : diminution *objective* de la capacité à utiliser l’esprit critique.

    C’est extrêmement énervant pour des sujets qui sont aussi importants de voir des gens plus boomers que journalistes bondir sur la première occasion pour cracher sur une évolution technologique *à priori* davantage utilisée par la nouvelle génération sans une once de réflexion sur le protocole de l’étude effectuée.

    L’étude est intéressante, bien sûr, car la question de *comment* on utilise l’IA dans la vie quotidienne est fondamentale. Mais elle mérite mieux qu’un titre putaclic et un article rédigé par quelqu’un qui n’a soit pas compris l’étude soit fait preuve de mauvaise foi.

  17. Y’a une super vidéo YouTube de Upper Echelon la dessus.

  18. C’est audacieux d’assumer que les gens qui prennent pour argent comptant ce que leur disent un i.a. étaient capable de faire preuve d’esprit critique avant d’y avoir recours.

    Ça fait longtemps que la majorité des gens ne font pas preuve d’esprit critique et que les facultés cognitives le permettant sont quasi inexistante. Les gens croient bêtement sur parole ce que disent les figures d’autorités, qu’il s’agisse des professeurs, des médecins, des politiciens, des médias ou de leurs parents. Les commentaires sous chaque post ou article en sont la preuve.

    L’ironie de ce post.

  20. Moi je trouve ca hilarant tout les gens qui poste ce truc, qui montre le peu d’esprit critique et n’ont pas lus l’étude.

    L’étude a mesuré l’effet perçu par les sujets eux même.

  22. Quand internet est arrivé, on pensait que cela allait permettre la diffusion du savoir. Et c’est ce qu’il s’est passé. Sauf que la diffusion du merdier a largement dépassé la diffusion du savoir.

    On croyait que l’abolition des gardiens de porte ( gatekeeper ) allait etre un facteur de liberté. Et on se retrouve avec Trump doit en grande partie à l’outil internet son élection.

    Pour l’ia, on songe immédiatement aux usages vertueux et à sa capacité à remplacer des emplois. Je pense qu’il faut envisager les usages délictueux et la façon dont ceux qui ont le pouvoir vont l’utiliser. Cela va aggraver les différences socio culturelles, certains vont utiliser l’ia pour se perfectionner et d’autres se reposer dessus.

    Je prédit un futur “parler prompt” , des gens qui s’adressent aux autres par des prompts, tellement ils en auront l’habitude.

  23. Ca parait assez évident que si on arrête de réfléchir en laissant faire (mal) une IA on va perdre l’habitude de réfléchir…..

  24. Il y a 10 sortes de personnes: celles qui savent prompter en binaire, et les autres.

    Plus sérieusement, la capacité à utiliser les IA actuelles n’est pas égale pour tous, quand on voit qu’un grande partie de la population n’est déja pas foutue de se servir d’un moteur de recherche efficacement.

  25. Quand je pense que sur un autre post je me suis fait downvote pour avoir critiqué l’IA…

Comments are closed.