Dans son nouveau livre, The Battle for Your Brain, la professeure Nita A. Farahany, experte en bioéthique, presse les législateurs d’adopter de nouvelles lois pour protéger nos pensées face aux progrès rapides des neurotechnologies et de l’intelligence artificielle. Elle plaide en faveur de « neurodroits » pour préserver notre activité cérébrale de tout usage malveillant.
Le domaine des neurotechnologies a beaucoup progressé ces dernières années. Les progrès réalisés en matière d’implants, d’interfaces cerveau-machines et d’imagerie cérébrale permettent aujourd’hui de pallier efficacement certains déficits des fonctions sensorielles et motrices — ce qui permet d’améliorer le quotidien de nombreuses personnes paralysées, victimes d’accident vasculaire cérébral ou atteintes de la maladie de Parkinson par exemple. Des implants cérébraux sont également mis en œuvre dans le traitement de troubles neurologiques et psychiatriques résistants aux médicaments, tels que la dépression sévère.
De même, plusieurs start-up proposent aujourd’hui des casques permettant aux utilisateurs de réguler leurs émotions, d’apaiser leur anxiété. D’autres applications de neurotechnologie visent à surveiller les niveaux de vigilance des conducteurs de véhicules ; en Chine, le concept s’étend dans certaines salles de classe et usines, où la concentration des élèves et des ouvriers est examinée en permanence. Nita A. Farahany, professeure de droit et de philosophie à l’Université Duke, experte en bioéthique, craint qu’il ne soit bientôt possible de véritablement « lire les pensées » d’un individu ; elle appelle les législateurs à mettre immédiatement en place des « neurodroits » pour encadrer la manière dont les neurotechnologies s’emparent de notre activité cérébrale.
Des intrusions dans les pensées aujourd’hui à portée de main
Les interfaces cerveau-machine offrent des avantages certains dans un cadre médical, que ce soit pour restaurer les fonctions motrices ou même la vue. Certains dispositifs en cours de développement visent à permettre à des personnes ayant perdu toute possibilité de communication d’écrire un texte sur un écran simplement par la pensée. Tous ces efforts sont louables, mais qu’en serait-il si ces mêmes dispositifs parvenaient à lire et à décoder nos pensées les plus intimes, pour les utiliser à notre insu et contre nous ?
C’est la problématique soulevée par Nita Farahany, auteure du livre The Battle for Your Brain. Selon elles, nos pensées méritent d’être protégées comme tout autre domaine de la liberté individuelle. « Toutes les grandes entreprises technologiques investissent massivement dans des dispositifs multifonctionnels dotés de capteurs cérébraux. Les capteurs neuronaux feront partie de notre technologie quotidienne et de la manière dont nous interagissons avec cette technologie », a-t-elle déclaré au Guardian.
Des sociétés telles que Neuralink et Meta travaillent déjà sur des interfaces cérébrales capables de lire directement les pensées ; ce type de technologies, associé aux progrès récents réalisés en matière d’intelligence artificielle, fait craindre des dérives : surveillance et contrôle des salariés, ingérence politique, répression, etc. Pour la spécialiste, les intrusions dans les pensées personnelles sont aujourd’hui « à portée de main » et représentent un risque perceptible.
Nos données personnelles sont déjà très largement analysées via les réseaux sociaux, décortiquées par des algorithmes qui en déduisent notre état d’esprit, nos opinions, afin de nous envoyer des publicités ciblées. Mais les progrès des neurotechnologies, qui impliquent une connexion directe avec le cerveau, ouvrent la voie à des incursions bien plus précises et donc, potentiellement dangereuses, dans un domaine qui était jusqu’ici privé.
Protéger le dernier espace d’intimité qu’il nous reste
Notre cerveau est finalement le seul espace de répit et d’intimité dont nous disposons encore, où nous pouvons cultiver un véritable sentiment d’identité, rappelle Farahany. « Dans un avenir très proche, cela ne sera plus possible », avertit-elle. D’où l’urgence de légiférer sur la question et de sensibiliser la population sur les risques d’intrusion posés par les plateformes numériques intégrées aux progrès des neurosciences.
Des lois sur les « neurodroits », qui incluent des protections sur l’utilisation des données biométriques dans les domaines de la santé et de la justice, sont déjà en cours d’élaboration. En octobre 2021, le Chili est devenu le premier pays au monde à inscrire les neurodroits dans sa constitution — une loi protégeant les droits du cerveau des citoyens, y compris les droits à l’identité personnelle, au libre arbitre et à l’intimité mentale ; le pays va bientôt légiférer pour réglementer les technologies qui enregistrent ou modifient l’activité cérébrale. L’État américain du Wisconsin a également adopté des lois sur la collecte de données biométriques concernant le cerveau.
En France, quelques dispositions ont également été prises. L’usage de l’imagerie fonctionnelle dans le cadre d’expertises judiciaires est par exemple interdit. En outre, l’article 225-3 du code pénal fait mention des « données issues de techniques d’imagerie cérébrale » dans le cadre des infractions en matière de discriminations. L’article L. 1151-4 du code de la santé publique prévoit quant à lui que « les actes, procédés, techniques, méthodes et équipements ayant pour effet de modifier l’activité cérébrale et présentant un danger grave ou une suspicion de danger grave pour la santé humaine peuvent être interdits par décret, après avis de la Haute Autorité de santé ».
Farahany souligne cependant que la plupart des protections juridiques concernent la divulgation de la collecte de données sur le cerveau, et non les droits neurologiques eux-mêmes. « Il n’existe pas de droit global à la liberté cognitive, tel que je le définis, qui s’applique à bien plus que les neurotechnologies, mais qui s’applique à l’autodétermination de nos cerveaux et de nos expériences mentales, ce qui s’applique à tant de technologies numériques que nous abordons aujourd’hui », explique-t-elle.
« Nous avons le temps d’agir, à la fois en prenant conscience de ce qui se passe et en faisant les choix cruciaux que nous devons faire maintenant pour décider comment utiliser la technologie d’une manière qui soit bonne et non pas abusive ou oppressive », conclut la spécialiste.