Depuis maintenant une dizaine d’années, les réseaux sociaux se sont peu à peu glissés dans notre quotidien, jusqu’à atteindre un stade où il est rare de rencontrer quelqu’un qui s’en passe. Ces réseaux nous connectent, nous divertissent, nous donnent de l’importance (du moins virtuellement). Mais aussi, bien qu’ils n’aient pas été initialement conçus dans ce but, ils peuvent permettre d’atteinte un niveau de surveillance mondial des populations jamais atteint auparavant. Cependant, sur cet aspect (de surveillance), les réseaux sociaux ont des limites et surtout, ils ne sont pas obligatoires…

Dans une continuité dystopique, et cela fait maintenant des années que certains en parlent : imaginez-vous la mise en place, sur la base d’un réseau global et obligatoire, d’un système de surveillance high-tech de masse et connecté. Comme un « réseau social » obligatoire dont l’objectif principal est la surveillance et le contrôle des habitants… Eh bien, c’est ce qui est en train d’être mis en place en Chine.

Le « système de crédit social » chinois, qui devrait être pleinement opérationnel d’ici 2020, ne se contente pas de surveiller les près de 1.4 milliard de citoyens. Il est également conçu pour les contrôler et les contraindre, dans une gigantesque expérience d’ingénierie sociale que certains ont appelée la « ludification de la confiance » (de l’anglicisme « gamification »).

En effet, ce projet colossal, qui se développe lentement depuis plus d’une décennie, consiste à attribuer une note de confiance individuelle à chaque citoyen ainsi qu’aux entreprises.

Selon le Parti communiste chinois, le système « permettra aux personnes de confiance de circuler librement, tout en contraignant au maximum celles qui auraient été définies de « non-confiance » ».

Sur le même sujet :

Intelligence artificielle : l’influence qu’elle aura sur nos vies dans les années 2030

Pour y parvenir, ce projet sans précédent exploitera l’immense portée de l’infrastructure technologique chinoise : quelque 200 millions de caméras de vidéosurveillance, selon un reportage réalisé par Abc News Australia.

systeme credit social chinois exemple score

Voici à quoi pourrait ressembler le système de crédit social, d’un point de vue visuel. Chaque individu possède un score de « confiance ». Crédits : ABC News Australia (YouTube)

L’idée est que les caméras, toujours attentives, seront connectées à des systèmes de reconnaissance faciale, mis en lien avec les données financières, médicales et juridiques de chaque citoyen. L’ensemble du système sera géré et interprété par des réseaux d’IA avancés et à grande résolution de données.

La dystopie radicale de ce scénario rappelle étrangement la série télévisée Black Mirror, plus précisément l’épisode « Nosedive », qui traite exactement du même sujet.

« C’est potentiellement une façon totalement nouvelle pour le gouvernement de gérer l’économie et la société », a déclaré l’économiste Martin Chorzempa du Peterson Institute for International Economics, au New York Times en juillet dernier. « Le but est la gouvernance algorithmique » ajoute-t-il.

Pour un plan aussi complexe, le rôle clé du crédit social est relativement simple. Dans les programmes pilotes localisés déjà opérationnels dans toutes les villes chinoises, les citoyens se voient attribuer un score numérique.

Le système fonctionne ainsi : pour obtenir des résultats positifs sur le plan personnel et social, il faut par exemple payer les factures à temps, faire du bénévolat et trier correctement ses déchets. Ainsi, un citoyen obtient un meilleur score, ce qui lui permet par exemple d’avoir accès plus facilement à des opportunités de crédit, de bénéficier de temps d’attente réduits pour les services hospitaliers, etc.

Par contre, si les règles sont enfreintes, les conséquences peuvent être très handicapantes… Les personnes en retard de paiement, qui seraient vues en train de traverser une chaussée en dehors du passage piéton, de fumer dans des zones non-fumeurs, etc., seront sanctionnées.

systeme credit social chinois exemple passage pieton

Lorsqu’un passant tente de traverser la rue quand les feux sont rouges, le système intelligent l’avertit en l’interpellant : « Vous êtes en train de traverser la route illégalement, reculez ! ». Le score social de l’individu est ensuite revu à la baisse. Crédits : ABC News Australia (YouTube)

Dans ce qui est décrit comme une véritable « dictature numérique », le score diminue donc pour chaque infraction. Avec un score faible, un citoyen risquerait par exemple de subir des pénalités financières, des restrictions de voyage, et plus encore.

C’est ce qui est arrivé au journaliste d’investigation Liu Hu, qui affirme que le système de crédit social a détruit sa carrière, après avoir été mis sur la liste noire pour avoir porté des accusations de corruption du gouvernement.

liu hu journaliste chinois perdu credit social

Le journaliste chinois Liu Hu a perdu son crédit social et est contraint à la détention à domicile. Crédits : Brant Cumming

Défini comme « malhonnête », Hu s’est vu retirer son accès aux transports ferroviaires ainsi que ses comptes de réseaux sociaux. Au total, il possédait plus de 2 millions de followers. Sans ses réseaux sociaux pour communiquer avec son public, il était devenu impossible pour lui de travailler.

Comme il l’a expliqué à Abc News, Hu pense que la plupart des Chinois ne sont pas pleinement conscients de la façon dont ces types de sanctions pourraient les affecter, eux et leur entourage.

« Vous pouvez déjà le déduire de l’état d’esprit (ou mental) global du peuple chinois », déclare-t-il. « Leurs yeux sont fermés et leurs oreilles sont bouchées. Ils ne connaissent que très peu le véritable monde et vivent dans une illusion » ajoute Hu.

Et malheureusement, le système de crédit social mis en place va encore plus loin. En effet, les individus ne sont pas les seuls sujets à cette « gamification ». Il en va de même pour les entreprises chinoises, mais aussi pour les entreprises extérieures. Les compagnies aériennes internationales ressentant déjà les aspects coercitifs de ce système. Certains craignent même qu’il puisse avoir un impact direct sur la souveraineté d’autres pays.

Pourtant, des enquêtes locales montrent que le système mis en place est déjà populaire auprès des citoyens socialement avantagés, qui bénéficient déjà des avantages des programmes pilotes.

« Il semble que cela contribuera à améliorer la « qualité » des citoyens à long terme », a déclaré l’année dernière à NPR la vendeuse Joyce Hu, basée à Shanghai. « Tant que cela ne viole pas ma vie privée, ça me va » a-t-elle conclu. Sur cet exemple, on peut d’ores et déjà voir que les avis peuvent diverger… Et vous, qu’en pensez-vous ?

En tout cas, pour le peuple chinois, le « jeu » est déjà lancé…

Pour les intéressés, voici le reportage complet sur le sujet, réalisé par Abc News Australia (en anglais) :

Sources : The New York Times, Abc News

2 Réponses

  1. Théo Izquierdo

     » Tant que vous êtes dans la norme vous avez rien à craindre, dès que vous êtes particulier, vous devenez une cible. » C’est ce que j’écrivrais hier dans mon projet de ville du futur basé sur ce système mais en incorporant autrement la « justice social ».

    C’est aussi simple que cela, c’est oublié le comportement humains et sous-estimé sa capacité à s’adapter, trouver et contourner les failles du système et là il est loin d’être parfait.

    Répondre
  2. Vince

    Absolument effrayant. Lorsque vous dites que ce système est « tout droit sorti de la SF » vous avez on ne peut plus raison puisqu’il correspond totalement à l’épisode 1 de la saison 3 de Black Mirror.
    La Chine parvient à faire la synthèse de ce qu’il y a de pire entre le capital et la branche autoritaire du communisme. Une horreur qui, je l’espère, ne deviendra pas mondiale.

    Répondre

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.