Microsoft/CMU : la confiance dans l'IA érode la pensée critique

Une étude menée par Microsoft Research et Carnegie Mellon auprès de 319 travailleurs du savoir, rapportée par 404 Media, relie la confiance dans l'IA générative à une baisse de la pensée critique au travail. Les participants ont documenté 936 cas d'usage réels : un enseignant générant des visuels de cours avec DALL-E, un trader en matières premières demandant à ChatGPT des pistes de stratégie, une infirmière faisant valider par l'IA des supports éducatifs pour patients diabétiques.

Les auteurs (Lee, Sarkar, Tankelevitch et leurs collègues de Microsoft Research) formulent le mécanisme sans détour : « a key irony of automation is that by mechanising routine tasks and leaving exception-handling to the human user, you deprive the user of the routine opportunities to practice their judgement and strengthen their cognitive musculature, leaving them atrophied and unprepared when the exceptions do arise ». La délégation massive aux outils entraînerait, selon eux, « the deterioration of cognitive faculties that ought to be preserved ».

Le résultat clé n'est pas que l'IA abêtit tout le monde, mais qu'elle sépare deux populations. Plus un salarié a confiance dans l'outil, moins il déploie d'effort critique ; plus il a confiance en ses propres compétences, plus il continue d'exercer son jugement. L'enquête couvre le droit, le marketing, le développement logiciel et d'autres métiers du savoir.

L'alerte s'ajoute à une série : Berkeley publiait hier un travail apparenté sur l'érosion de la persévérance face aux tâches difficiles après exposition à l'IA générative.