Une récente enquête codirigée par Microsoft révèle que notre capacité de réflexion critique s’amenuise à mesure que nous utilisons des outils d’IA générative. En automatisant des tâches répétitives et routinières, ces outils nous priveraient de précieuses occasions routinières d’exercer une pensée critique et de nous engager dans des réflexions complexes. Ainsi, ces résultats semblent confirmer les inquiétudes croissantes concernant les impacts de la technologie sur nos capacités cognitives.
Les outils d’IA font partie d’une lignée de technologies qui, au fil de leur popularisation, ont toujours soulevé des questions concernant les impacts à long terme sur les capacités cognitives. En effet, l’automatisation de certaines tâches auparavant considérées comme essentielles pour le maintien d’une bonne cognition (telles que la prise de note et le calcul mental) réduit les occasions de les exercer, et ainsi de les conserver.
Parmi ces technologies et techniques figurent celles datant de plusieurs siècles, telles que l’écriture (critiquée par Socrates) et l’imprimerie (objectée par Trithemius), sans oublier celles plus récentes telles que la calculatrice (critiquée par les professeurs de mathématiques de l’époque), Internet et désormais l’IA.
« Une des principales ironies de l’automatisation est qu’en mécanisant les tâches courantes et en laissant le traitement des exceptions à l’utilisateur humain, vous privez l’utilisateur des occasions habituelles de pratiquer son jugement et de renforcer sa musculature cognitive, les laissant atrophiés et non préparés lorsque les exceptions se présentent », expliquent les chercheurs de Microsoft et de l’Université Canergie Mellon dans leur étude.
Cependant, alors que certaines compétences sont désormais presque considérées comme facultatives et facilement automatisables, les experts s’inquiètent surtout de celles qui devraient être préservées quels que soient les progrès technologiques. Parmi ces compétences figurent par exemple la pensée critique, la littératie numérique, l’adaptabilité, la responsabilisation, etc.
Les outils d’IA entraînent une forme de dépendance poussée de sorte que ces compétences essentielles pourraient être perdues. Des études ont également rapporté des impacts sur la mémoire et la créativité. La nouvelle étude, quant à elle, s’est concentrée sur la pensée critique. La plupart des recherches sur les impacts de l’IA sur la cognition humaine sont axées sur les milieux éducatifs. « L’effet de l’utilisation des outils d’IA générative sur la pensée critique, en tant qu’objet direct d’enquête, n’a pas encore été exploré », affirment les experts.
Une dépendance menant à une baisse de l’engagement cognitif
En tant qu’outil conversationnel, l’IA générative entraîne une forme de dépendance cognitive radicalement différente des sources d’information numériques conventionnelles. Contrairement à ces dernières, il ne s’agit notamment pas d’un simple référentiel d’informations, mais d’un outil capable de tenir de véritables conversations et d’interagir de manière dynamique avec les utilisateurs, sans compter l’accès considérablement facilité aux informations. Cette dépendance est particulièrement préoccupante dans le domaine de l’enseignement supérieur, où l’IA générative a presque tendance à apporter une forme « d’assistance cognitive » — comme nous l’avons abordé dans un précédent article d’investigation.
Une récente étude a également suggéré que la dépendance à l’IA pourrait détériorer les compétences des experts et entraver leur maîtrise par les apprenants. Dans le cadre de leur enquête, les chercheurs de la nouvelle étude ont interrogé 319 « professionnels du savoir » (des personnes ayant l’habitude de résoudre des problèmes dans le cadre de leur travail) concernant la manière dont ils utilisent l’IA générative.
« Les changements manifestes dans les comportements de pensée critique provoqués par l’IA générative s’étendent à un large éventail de professions et de flux de connaissances — les outils d’IA générative sont maintenant largement utilisés dans le travail du savoir — et on en sait peu sur les exigences de la pensée critique », explique l’équipe.
Chaque participant a été invité à partager trois exemples concrets d’utilisation de l’IA et à évaluer leur niveau de réflexion critique lors de l’exécution automatique des tâches. Au total, les participants ont partagé plus de 936 exemples d’utilisation de l’IA générative au travail.
Les chercheurs ont constaté que dans l’ensemble, ceux qui faisaient le plus confiance dans la précision des outils d’IA avaient tendance à penser de manière moins critique. En revanche, ceux qui avaient moins confiance dans l’exactitude des réponses des outils ont fait preuve de davantage de réflexion critique. En outre, les données montrent des changements dans l’engagement cognitif des travailleurs à mesure qu’ils délèguent des tâches à l’IA et n’interviennent qu’au niveau de la supervision.
« Étonnamment, si l’IA peut améliorer l’efficacité, elle peut également réduire l’engagement critique, en particulier dans les tâches de routine ou à moindre enjeu pour lesquelles les utilisateurs s’appuient simplement sur l’IA, ce qui soulève des inquiétudes quant à la dépendance à long terme et à la diminution de la capacité à résoudre les problèmes de manière indépendante », écrivent les experts.
Alors que des centaines de milliards de dollars sont alloués au développement de l’IA, ces résultats mettent en lumière son influence potentielle sur la cognition humaine à mesure de son adoption. À l’instar de toutes les technologies transformatrices, ses impacts sur l’avenir de la société soulèvent inévitablement des préoccupations. Un nombre croissant de chercheurs estiment d’ailleurs que la dépendance à ces outils pourrait conduire à un déclin cognitif généralisé. Nous avons exploré le sujet en détail dans un autre article d’investigation.