Yuval Noah Harari, historien et philosophe israélien, auteur du best-seller Sapiens : Une brève histoire de l’humanité, s’inquiète des progrès réalisés au moyen de l’intelligence artificielle. Selon lui, il est désormais nécessaire de réglementer rapidement le secteur — la technologie d’IA elle-même, mais aussi la collecte des données — au risque que des entreprises malveillantes « piratent » un jour les êtres humains…
Cet écrivain de renommée internationale estime que la sophistication croissante et rapide de l’intelligence artificielle pourrait conduire un jour à un monde dystopique, peuplé « d’humains piratés ». C’est pourquoi il appelle aujourd’hui les dirigeants de tous les pays à réguler au plus vite la manière dont les grosses entreprises exploitent l’intelligence artificielle. « Pirater un être humain, c’est apprendre à connaître cette personne mieux qu’elle ne se connaît elle-même, et sur cette base, la manipuler de plus en plus », a-t-il déclaré à CBS.
Harari s’inquiète surtout du fait que les individus cèdent relativement facilement des données personnelles à des entités privées, qui n’agissent pas nécessairement dans leur intérêt. « Netflix nous dit ce que nous devons regarder et Amazon nous dit ce que nous devons acheter », souligne-t-il à titre d’exemple. « À terme, d’ici 10 ou 20 ou 30 ans, de tels algorithmes pourraient également vous dire ce que vous devez étudier à l’université et où travailler, qui épouser et même pour qui voter », avertit-il.
Une collecte encore plus intrusive depuis la pandémie
Coordonnées, âge, situation amoureuse et familiale, centres d’intérêt, goûts musicaux et cinématographiques, ou encore préférences culinaires, nos données personnelles s’échangent aujourd’hui à prix d’or sur un marché principalement dominé par les GAFAM (Google, Apple, Facebook, Amazon et Microsoft) — un marché qui pèse aujourd’hui plus d’un trillion d’euros en Europe, selon un rapport de Génération Libre publié en 2019.
Si ces données sont si précieuses, c’est parce qu’elles permettent, à partir d’algorithmes intelligents, de dresser un profil de plus en plus fidèle de chaque individu, afin de leur proposer des produits et services ultra personnalisés, du véritable sur-mesure — une aubaine pour tous les commerçants, qui sont dorénavant assurés de ne s’adresser qu’à des clients potentiels.
Le problème est que ces données, de même que les manières de les récupérer, sont toujours plus nombreuses et que nous cédons parfois des informations sans même nous en rendre compte (du moins, peu de gens prennent le temps de lire les paramètres d’utilisation d’un service en ligne requérant la saisie de données personnelles). « Dans une économie basée sur le développement numérique, la data est la nouvelle matière première. Le problème est qu’aujourd’hui, les internautes la fournissent gratuitement », alertait Maxime Sbaihi, directeur général de Génération Libre, en décembre 2020.
La pandémie aurait d’ailleurs ouvert la voie à une collecte encore plus intrusive de nos données, selon Harari. Alors que les entreprises et les gouvernements se limitaient jusqu’à présent à collecter des données sur nos divertissements préférés, nos relations et nos destinations favorites, la collecte concerne désormais « ce qui se passe à l’intérieur du corps », remarque-t-il.
C’est pourquoi il considère l’intelligence artificielle comme une menace sérieuse, dont l’emprise sur les humains se renforce chaque jour un peu plus, au point qu’elle pourrait servir un jour à manipuler les populations. Alors que Facebook/Meta, comme plusieurs autres entreprises technologiques, commencent à rêver d’un métavers — un univers virtuel de leur propre création, déconnecté de la réalité physique —, le danger soulevé par l’écrivain prend tout son sens.
« Nous avons besoin d’une coopération mondiale »
Harari estime que les pays et les entreprises qui contrôlent le plus de données finiront par contrôler le monde. « Le monde est de plus en plus découpé en sphères de collecte de données », souligne-t-il. Au lendemain de la Seconde Guerre mondiale, un « rideau de fer » séparait la Russie des pays de l’ouest ; un schéma qui tend à se reproduire aujourd’hui, selon l’écrivain : « Maintenant, nous avons le rideau de silicium ; le monde est de plus en plus divisé entre les États-Unis et la Chine ».
Ainsi, selon lui, l’effort de préservation ne doit pas s’en tenir à l’échelle d’un pays, mais englober le monde entier : « Nous avons besoin d’une coopération mondiale. Vous ne pouvez pas réguler le pouvoir explosif de l’intelligence artificielle au niveau national », a-t-il précisé dans l’émission 60 Minutes, à laquelle il était invité. La réglementation de l’intelligence artificielle repose d’après lui sur trois points essentiels.
Pour commencer, les données collectées doivent être utilisées pour aider les individus et non pour les manipuler. Ensuite, la surveillance croissante des individus doit toujours s’accompagner de la surveillance simultanée des entreprises et des gouvernements. Enfin, les données ne devraient jamais être centralisées en un seul endroit, ce qui pour l’écrivain est tout bonnement « la recette d’une dictature ».
Harari considère néanmoins que si elle est bien encadrée, l’intelligence artificielle peut être très bénéfique pour l’humanité. « Ce type de données peut aussi nous permettre de créer le meilleur système de soins de santé de l’histoire », dit-il à titre d’exemple. C’est d’ailleurs l’objectif poursuivi par la start-up franco-américaine Embleema, qui propose aux patients de vendre leurs données médicales à des professionnels de santé pour faire avancer la recherche. Mais l’important, rappelle Harari, est de savoir quels autres usages sont faits de ces informations et surtout, qui les supervise.
