La GenAI au travail, inhibitrice de la pensée critique ?

L'usage de l'IA générative réduit-il la diversité des contenus produits pour une même tâche ?

Un article scientifique publié en 2023 avait illustré cette tendance. Son auteur, un chercheur de chez Microsoft, avait qualifié le phénomène de "convergence mécanisée". On le retrouve aujourd'hui parmi les signataires d'un autre article qui reprend ce constat et en tire une hypothèse : l'usage de la GenAI dégraderait la pensée critique. Pour en apporter des preuves empiriques, les intéressés - de Microsoft et de Carnegie Mellon - ont interrogé des travailleurs de la connaissance (knowledge workers). 319 en l'occurrence, sur la plate-forme Prolific. Il s'agissait principalement d'évaluer deux aspects :

• Lorsque les travailleurs de la connaissance utilisent la GenAI, quand et comment perçoivent-ils que se manifeste leur pensée critique ?
• Quand et pourquoi la GenAI affecte-t-elle leur perception du niveau d'effort qu'exige la pensée critique ?

Un millier de cas d'usage pour juger six aspects de la pensée critique

L'étude en complète d'autres qui ont touché, notamment, à l'impact de la GenAI sur la mémoire ou sur la créativité. Elle a permis de collecter des retours d'expérience sur 936 exemples d'usage, répartis en trois catégories.

Ont été pris en considération à la fois des facteurs spécifiques aux tâches et aux utilisateurs. La définition de la pensée critique est reprise de Bloom et al. Elle recouvre six dimensions cognitives.

La confiance des utilisateurs a été mesurée sur trois points :

• Confiance en sa capacité à réaliser une tâche sans GenAI
• Confiance en la capacité de l'IA à réaliser une tâche
• Confiance en sa capacité à évaluer les réponses de la GenAI

Une question de confiance en soi...

Dans 555 cas, les participants disent avoir recouru à la pensée critique. Ils la perçoivent essentiellement comme l'ensemble des activités cognitives effectuées pour s'assurer de la qualité des réponses. En l'occurrence :

• Définir des objectifs (cité par 6 utilisateurs) et des requêtes (30)
• Assurer la qualité à travers des critères objectifs (125) et des éléments subjectifs spécifiques à une réponse (77) ; vérifier l'information en évaluant les sources mentionnées (23) et en croisant avec des sources externes (114)
• Sélectionner les réponses à intégrer dans un workflow (36) et en modifier le style pour les adapter à la tâche (45)

La perception de la pensée critique et de l'effort associé est corrélée au niveau de confiance. Plus l'utilisateur a confiance en la GenAI, moins il perçoit une manifestation de sa pensée critique, quand bien même il perçoit aussi un moindre effort nécessaire (vrai sur toutes les dimensions cognitives sauf la mise en application). Plus il a confiance en lui-même, plus c'est l'inverse ; en particulier pour la mise en application et l'évaluation.

La pensée critique apparaît surtout mobilisée pour améliorer la qualité du travail (74 répondants), éviter les issues négatives (116) et développer ses compétences (13). Parmi les éléments qui tendent à inhiber le processus figurent les contraintes de temps (44) et de périmètre de travail (11), ainsi que la difficulté à évaluer les réponses (58) et à les améliorer (72). Autre obstacle : une incapacité à percevoir les opportunités de solliciter la pensée critique. Pour 83 répondants, la confiance dans l'IA peut décourager les réflexions en la matière.

... et de design ?

La GenAI fait plus globalement basculer la nature de la pensée critique. Premièrement, de la collecte d'informations (effort perçu comme diminué par 111 répondants) et de leur organisation (87) à leur vérification (effort perçu comme augmenté par 56 répondants). Deuxièmement, de la résolution de problèmes (77 perçoivent un effort diminué grâce à la fourniture de solutions personnalisées ; 9 grâce à la possibilité d'appliquer des exemples à d'autres contextes) à l'intégration de réponses (effort augmenté pour 19 répondants). Troisièmement, de l'exécution de tâches (effort moindre selon 40 répondants) à leur supervision (effort augmenté pour 45 répondants, de par la nécessité d'articuler ses besoins et de traduire ses intentions en requêtes).

La réduction de la pensée critique sur les tâches "sans enjeu" pose, à long terme, la question de la diminution des capacités de résolution de problèmes, affirment les chercheurs. Dans ce contexte, il faut encourager l'expertise de domaine pour améliorer la confiance en soi, donc le recours à la pensée critique, et par conséquent la capacité à déléguer/superviser efficacement les tâches... Faire prendre conscience aux utilisateurs de l'opportunité de la pensée critique impliquerait à la fois des systèmes proactifs (qui prennent l'initiative d'interrompre une tâche) et réactifs (auxquels on peut explicitement demander assistance).

Diverses études se sont déjà penchées sur la manière dont la conception des outils GenAI peut encourager la pensée critique : présenter les explications sous forme interrogative, susciter des discussions conflictuelles, effectuer des contrôles d'attention, etc.

Illustration générée par IA