Serait-il possible de surveiller les pensées des individus ? C’est, en substance, ce qu’ont affirmé des scientifiques chinois. Ils expliquent dans un rapport publié le 1er juillet avoir développé une intelligence artificielle capable de détecter certaines « pensées ». Ils soulignaient notamment la possibilité de vérifier de près les opinions politiques vis-à-vis du Parti communiste chinois.
Relayé à travers de nombreux médias, le rapport en question, accompagné d’une vidéo, a depuis disparu du site internet sur lequel il avait été publié. Il aurait été originellement créé par des chercheurs du Hefei Comprehensive National Science Center. Les recherches tournaient autour d’un système d’intelligence artificielle permettant d’analyser les pensées en se basant sur les expressions faciales et les ondes cérébrales.
Selon un article publié dans le New York Post, la vidéo en question montrait un individu en train de fixer un écran à l’intérieur d’un « kiosque ». Sur l’écran, différentes informations défilaient, avec des exercices à réaliser. Les scientifiques affirment que les capteurs et l’algorithme leur permettaient alors d’identifier différents types de réactions aux éléments de contenu proposés. Cette technologie devait être utilisée, selon les propos du Hefei Comprehensive National Science Center relayés par le New York Post, pour « renforcer davantage leur confiance et leur détermination à être reconnaissants envers le parti, à écouter le parti et à le suivre ».
L’institut avait aussi déclaré avoir encouragé 43 membres du parti faisant partie de l’équipe de recherche à suivre ces « cours » tout en étant surveillés par le nouveau logiciel. Le dispositif permettrait, selon eux, de contrôler si les sujets sont attentifs à « la pensée et l’éducation politique ». « D’une part, il peut juger de la manière dont les membres du parti ont accepté la pensée et l’éducation politique », indiquait l’article en question. « D’autre part, il fournira de vraies données pour la pensée et l’éducation politique afin de pouvoir l’améliorer et l’enrichir ».
Si l’objectif de ces recherches est effectivement de permettre un contrôle de la pensée politique, l’information n’est évidemment pas des plus rassurantes. Cela n’est d’ailleurs pas la première fois que des initiatives de contrôle inquiètent la communauté internationale. Le fameux « crédit social », cet outil de contrôle qui attribue une « note » aux entreprises et aux citoyens, a par exemple fait couler beaucoup d’encre. En perdant des points, certains privilèges peuvent ainsi être retirés à ceux qui n’atteignent pas des scores assez élevés.
Il faut toutefois rester prudent sur les interprétations et amplifications de ce genre d’initiatives, surtout lorsque le rapport original s’est évanoui dans la nature. Pierre Sel, doctorant à l’Université de Vienne, spécialisé sur le système de crédit social et co-fondateur du service d’étude et d’enquête sur la Chine, EastIsRed, écrivait ainsi en février 2022 dans Les Echos : « Le système de crédit social déchaîne les passions et les fantasmes. Alors que tout le monde a en tête l’image d’un système de notation orwellien, la réalité est tout autre… et bien moins sensationnaliste (…). Personne ne nie les dangers posés par les technologies numériques, mais faire croire que chaque citoyen chinois perd des points s’il achète du soda est tout bonnement faux. (…) Le système de crédit social est un outil bureaucratique, reposant avant tout sur des tableurs Excel, qui concerne plus les entreprises que les individus – ceux-ci ne représentent que 0,2 % des entités sanctionnées ».