Des chercheurs spécialisés dans l’éducation prévoyaient de faire porter des caméras à des enseignants de maternelle afin de collecter des données sur les élèves pour entraîner des systèmes d’IA. L’objectif était d’obtenir un aperçu subjectif des interactions entre enseignants et élèves afin de développer des outils d’IA capables d’analyser la qualité de ces échanges. Le projet a toutefois été suspendu à la suite du mécontentement de parents, dont le consentement explicite n’aurait pas été clairement sollicité.
Depuis le lancement de ChatGPT en 2022, l’IA connaît une forte croissance et une adoption rapide, s’intégrant progressivement dans de nombreux aspects du quotidien, y compris l’éducation. La dépendance croissante aux technologies pousse ainsi les approches traditionnelles en matière d’éducation à évoluer rapidement.
Les outils d’IA dédiés à l’éducation se développent de plus en plus en réponse aux besoins croissants des enseignants et des élèves. D’après Global Market Insights, la valeur du marché des outils d’IA éducatifs aurait atteint 4 milliards de dollars en 2022 et devrait enregistrer un taux de croissance annuel composé (CAGR) de 10 % entre 2023 et 2032.
Le développement de ces outils a cependant un coût. Pour optimiser leur efficacité dans des environnements réels, ils doivent être entraînés à l’aide de grands volumes de données, souvent collectées auprès des élèves eux-mêmes, ce qui soulève des préoccupations éthiques.
Des chercheurs de l’Université de Washington ont cherché à collecter des données sur des enfants d’âge préscolaire à des fins d’entraînement d’IA, selon 404 Media. Le projet a suscité une vive opposition de la part de certains parents en raison de questions liées au consentement.
« Je suis très inquiète à l’idée que l’image de mon enfant soit utilisée dans des outils d’IA inconnus et des risques d’abus », a témoigné une mère ayant consulté le document soumis par l’université.
Quand la salle de classe devient un terrain d’expérimentation pour l’IA
Les chercheurs prévoyaient d’équiper les professeurs de maternelle de caméras enregistrant tout ce qu’ils voyaient, y compris les élèves dont ils avaient la charge. Il est intéressant de noter que le programme n’était pas fondé sur une inscription volontaire, mais laissait plutôt aux parents le soin de prendre eux-mêmes des mesures pour empêcher la collecte de données concernant leurs enfants, à condition toutefois d’avoir été informés du projet.
« Avec votre accord, l’enseignant principal de votre enfant pourra porter une petite caméra qui filme son point de vue subjectif, et/ou nous pourrons installer une caméra vidéo fixe dans la classe », indique le document de l’université remis aux parents et transmis ultérieurement à 404 Media.
« Ces vidéos capturent simplement les interactions habituelles entre les enseignants et les enfants lors des activités de classe. Les enregistrements ont lieu pendant les heures du programme du matin, pour une durée maximale de 150 minutes, et jusqu’à quatre fois par mois. Votre enfant ne sera pas amené à faire quoi que ce soit de nouveau ou de différent. Sa routine quotidienne restera exactement la même. »
Les vidéos collectées serviraient à développer et à évaluer des modèles d’IA destinés à analyser la qualité des interactions entre enseignants et élèves. Cela impliquerait notamment que des examinateurs visionnent et annotent les vidéos afin d’entraîner ensuite les modèles d’IA.
« Des outils d’IA analyseront également ces mêmes enregistrements afin de générer des codes et des justifications », précise le document. Aucun fournisseur particulier n’est mentionné, mais le texte indique que les données seraient traitées à l’aide de services d’IA basés sur le cloud.
Si le document indique que seules les équipes de recherche utiliseraient les vidéos annotées pour entraîner des « modèles d’IA sécurisés et privés », les données pourraient tout de même être utilisées à des fins de recherche, notamment dans des articles universitaires ou lors de conférences.
Le consentement parental au cœur des critiques
Les experts externes interrogés par 404 Media soulignent que, bien que le document semble à première vue témoigner d’un effort de transparence, il omet néanmoins certains points d’information importants, notamment concernant la finalité exacte des données ainsi que les entités précises avec lesquelles elles pourront être partagées.
« J’étais particulièrement préoccupée par la capacité des familles à donner un consentement éclairé. Étant anglophone, le langage vague du document m’a soulevé de nombreuses questions. Beaucoup de familles de notre école sont issues de l’immigration et ne parlent pas anglais, or aucun formulaire n’a été fourni dans leur langue maternelle », a indiqué la mère interrogée par 404 Media.
L’université a indiqué avoir suspendu l’étude compte tenu des retours des parents, tout en précisant qu’il s’agissait d’une phase exploratoire destinée à mieux comprendre leurs réactions face à un projet de cette nature.
