Alors que les systèmes d’IA continuent d’évoluer, leur impact sur nos vies augmente également. Les questions d’éthique et les limites à y mettre sont en plein débat, notamment pour nous protéger d’une éventuelle prise de « pouvoir » des machines. Sera-t-il un jour possible de transférer une forme de conscience humaine à une machine alors que l’esprit humain n’a toujours pas livré tous ses secrets ? Et quelles en seraient les conséquences sur nos vies et nos façons de penser ? Les machines conscientes pourraient révolutionner la moralité en la basant sur des vues non anthropocentrées.
Pendant de nombreux siècles, scientifiques et philosophes ont débattu de la nature du cerveau et de sa relation avec l’esprit. Sur la base d’un dualisme intrinsèque, le corps est lié à l’esprit pour certains, quand pour d’autres les deux entités peuvent être comprises indépendamment. L’importance de ces débats acquiert encore plus de pertinence lorsque la question est posée dans l’optique de construire des machines capables de reproduire certaines capacités humaines, telles que l’émotion, les expériences subjectives, ou même la conscience.
Le problème est exacerbé lorsque certains scientifiques revendiquent une nouvelle génération d’ordinateurs, de machines et/ou de robots qui dépasseraient les capacités humaines. L’idée de ce dépassement implique la connaissance d’un ensemble de processus et de caractéristiques distinctifs qui définissent l’être humain — l’intelligence, le langage, la pensée abstraite, la création artistique et musicale, les émotions et les capacités physiques, entre autres —, qui commencent à émerger avec les nouvelles IA.
Avons-nous les technologies pour arriver à un tel achèvement d’une machine douée de conscience ? Connaissons-nous suffisamment le fonctionnement de notre esprit pour le modéliser et le transférer dans une machine ? Serons-nous capables de le maitriser ? Faisons le point sur les avancées dans le domaine des neurosciences et des intelligences artificielles, ainsi que des débats soulevés.
Cerveau et conscience immortelle ?
Électriquement, le cerveau reste en grande partie une boîte noire. Des signaux électriques lui sont envoyés via les nerfs et d’autres sont envoyés en réponse à travers notre corps, très schématiquement. Mais ce que tout cela signifie exactement est ouvert à beaucoup d’interprétations et à de controverses.
Le fait de créer une machine consciente est basé sur l’idée que les fonctions cérébrales ne font que coder et traiter des informations multisensorielles. Une fois ces fonctions établies et les schémas associés, il faut « simplement » les programmer dans un ordinateur.
Le milliardaire Elon Musk, PDG de SpaceX, Tesla, co-fondateur d’OpenAi, et récemment devenu PDG de Twitter, semble croire que les humains pourront éventuellement vivre éternellement, en téléversant leur conscience dans des robots. Une telle technologie sera une évolution progressive des formes actuelles de mémoire informatique, voire une évolution logique de l’espèce humaine dans la théorie du transhumanisme.
Elon Musk déclare à Insider : « Je pense que c’est possible. Nous pourrions télécharger les choses qui, selon nous, nous rendent si uniques. Maintenant, bien sûr, si vous n’êtes plus dans ce corps, cela fera certainement une différence, mais en ce qui concerne la préservation de nos souvenirs, de notre personnalité, je pense que nous pourrions le faire ».
Mais certains scientifiques ne sont pas de cet avis : ils sont catégoriques sur le fait qu’il restera impossible de créer un ordinateur ayant la conscience d’un être humain ou de lui en transférer une.
Un cerveau ne fonctionne pas comme un ordinateur
Dans un article publié par The Conversation, Subhash Kak, professeur à l’Université d’Oklahoma, explique que le cerveau intègre et comprime plusieurs composants d’une expérience, y compris la vue et l’odorat — qui ne peuvent tout simplement pas être gérés de la manière dont les ordinateurs d’aujourd’hui détectent, traitent et stockent les données.
Certains experts du cerveau sont totalement hostiles à une analogie entre cerveau et ordinateur. Dans une étude de l’Université de Princeton, ils expliquent que ce modèle cerveau-ordinateur obscurcit les propriétés physiques complexes du cerveau, car il ignore ce qu’on appelle les propriétés émergentes — les propriétés qui « émergent » au fur et à mesure qu’un système fonctionne et qui ne peuvent pas être prédites uniquement à partir de l’étude de ses composants.
Ils soutiennent que le mécanisme de la conscience, notamment, est une propriété émergente, et donc inaccessible tant que nous continuons à essayer de comprendre le cerveau en matière de composants informatiques. Ce groupe de neuroscientifiques estime qu’un aperçu du cerveau sera obtenu par des études de comportement, et non par comparaison avec des ordinateurs. Et donc le transfert de notre conscience dans un ordinateur ne serait qu’une chimère.
Les neuroscientifiques soulignent que l’accent mis sur l’étude de l’interaction du cerveau avec les sens, comme le font la majorité des études sur le cerveau, ignore la véritable singularité du cerveau : son contrôle du comportement.
C’est le traitement et la traduction des informations sensorielles en comportements appropriés qui, selon eux, sont la clé pour comprendre le fonctionnement réel du cerveau. Malheureusement, nous savons peu de choses sur la façon dont le cerveau contrôle les comportements du corps et, selon eux, nous n’y arriverons jamais en étudiant uniquement les détails des circuits neuronaux.
Des cerveaux informatiques, mais sans conscience ?
Avec environ 100 milliards de cellules nerveuses, chacune étant connectée à environ 10 000 autres neurones, le réseau neuronal naturel du cerveau est très complexe. En particulier, la capacité de traiter de nombreux stimuli et signaux en parallèle est encore sous-développée dans les ordinateurs.
Depuis juin 2016, le supercalculateur le plus rapide au monde, Sunway TaihuLight, effectue 93 quadrillions de calculs par seconde ou 93 pétaFLOPS. De plus, récemment, des scientifiques de l’Université de Stanford (États-Unis) et de l’University College Dublin (Irlande) ont mis au point un nouveau type d’ordinateur quantique qui pourrait être en mesure de se frotter à des problèmes de physique encore jamais résolus.
Les experts estiment que même une réplication grossière du cerveau humain nécessiterait une machine capable d’au moins 20 pétaFLOPS, en supposant 100 milliards de cellules cérébrales, 200 déclenchements par seconde et 1000 connexions par cellule. Sunway TaihuLight est plus de neuf fois plus rapide que cela. Mais comme mentionné précédemment, notre cerveau est bien plus qu’une simple machine à calculer.
En 2020, une équipe de l’Allen Institute for Brain Science de Seattle, aux États-Unis, a cartographié la structure 3D de tous les neurones compris dans un millimètre cube du cerveau d’une souris — une étape considérée comme extraordinaire. Mais pour ce faire, ils se sont appuyés sur 25 000 coupes fines de tissu cérébral.
VIDÉO : Des tranches ultrafines de cerveaux de souris illustrent la façon dont les cellules cérébrales communiquent à la plus petite échelle. © Allen Institute for Brain Science
Dans un article de The Conversation, Guillaume Thierry, professeur de neurosciences cognitives à l’Université de Bangor, explique que la même technique devrait être appliquée à notre cerveau — d’un volume d’environ 1,26 million de millimètres cubes — pour le transférer, car seules des informations très grossières peuvent être extraites des scintigraphies cérébrales. L’information dans le cerveau et la conscience sont stockées dans chaque détail de sa structure physique et des connexions entre les neurones.
C’est pourquoi des scientifiques de l’Université de Loughborough explorent comment les nouvelles avancées technologiques peuvent aider à créer un cerveau artificiel, sans passer par l’étape de la découpe. Pour cela, ils ont recréé les systèmes de neurones naturels dans des ordinateurs, en utilisant des réseaux de neurones artificiels.
Le Dr Pavel Borisov, physicien expérimental et son collègue Sergey, déclarent dans un communiqué : « Les neurones biologiques sont connectés par des synapses, tandis que les neurones artificiels sont connectés par des ‘poids’. Ces neurones simulés peuvent traiter les signaux d’entrée et de sortie d’autres neurones ».
Au fur et à mesure que ces programmes expérimentent de nouvelles données, de nouveaux poids sont attribués au sein des réseaux de neurones, de sorte que les signaux de sortie de neurones artificiels particuliers seront traités de manière légèrement différente. Par exemple, un réseau de neurones pourrait être entraîné à reconnaître les chats en lui montrant des milliers d’images de chats. Une fois formé, le système peut alors déterminer si de nouvelles images inconnues contiennent des chats.
Pourtant, même si les réseaux de neurones deviennent plus avancés, ils ne sont toujours pas aussi efficaces que notre cerveau. Ils fonctionnent en filtrant les informations utiles des données inutiles, plutôt qu’en reproduisant la capacité de réflexion humaine dans la compréhension des concepts. Après tout, nous n’avons pas besoin de voir des milliers de photos de chats juste pour en reconnaître un !
Moduler les neurones artificiels pour faire émerger une conscience
L’amélioration des réseaux de neurones nécessitera un matériel physique plus avancé. Une voie à suivre consiste à développer des circuits capables de se modifier activement lorsqu’ils rencontrent de nouvelles informations, ce qui est rendu possible par des dispositifs appelés memristors. Ils peuvent changer leur résistance en fonction de la quantité de courant qui les a traversés dans le passé. Essentiellement, cela leur donne une « mémoire ».
Pavel contrôle le système de pulvérisation magnétron qui est utilisé pour développer des memristors à couches minces. © Université de Loughborough
Les scientifiques de l’Université de Loughborough, mentionnés précédemment, expliquent : « Les memristors peuvent être utilisés pour remplacer les poids dans les algorithmes, donc au lieu de stocker tous ces nombres dans le programme, nous pouvons utiliser la résistance électrique de chaque memristor pour représenter ce poids ». Ils s’intéressent en particulier au cortex visuel.
De manière concrète, lorsque nos yeux captent de nouvelles informations visuelles, ils les convertissent en signaux électriques, qui passent dans une zone du cerveau appelée cortex visuel. Le cerveau encode les informations sur de courtes impulsions électriques, envoyées pour être traitées par d’autres neurones, permettant au réseau de modifier ses synapses en réponse aux nouvelles informations.
Pour recréer ce comportement dans des réseaux de neurones artificiels, Sergey et Pavel utilisent deux types de memristors. Ils expliquent : « Les memristors volatils reviennent au même état lorsque l’alimentation électrique est coupée, ils ne mémorisent donc pas ce qu’ils ont appris. Cependant, ils peuvent transformer l’information en une série de pointes électriques, permettant aux neurones artificiels de communiquer ».
En revanche, les memristors non volatils conservent leur mémoire lorsqu’ils sont éteints et ont une résistance qui dépend de l’intensité et de la polarité des pics de tension, ce qui les rend plus efficaces en tant que synapses artificielles. Sergey combine ces deux types de memristors pour mieux imiter le vrai cortex visuel.
De plus, une étude de septembre 2022 présente un nouveau modèle neuro-informatique du cerveau humain qui permettrait de mieux comprendre la façon dont il développe des capacités cognitives complexes. En effet, il décrit le développement neuronal sur trois niveaux hiérarchiques de traitement de l’information et d’acquisition de compétences cognitives : sensorimoteur, cognitif et conscient. Selon les auteurs, ce serait une étape clef pour espérer un jour aboutir à la création d’intelligences artificielles conscientes.
Bien que cela nécessiterait énormément de temps et de travail, il sera possible dans un futur plus ou moins lointain de se rapprocher un peu plus du fonctionnement de notre cerveau en termes mécanistes.
Maintenant, posons l’hypothèse que nous ayons réussi à reconstituer la structure complète du cerveau ainsi que chacune des connexions entre les cellules, et que nous ayons pu stocker et transférer la quantité astronomique de données représentant une conscience dans un ordinateur, nous serions confrontés à une grande inconnue : est-ce que cela est suffisant pour que la conscience apparaisse dans la machine ? Comment nous distinguer d’autres êtres vivants qui ont le même fonctionnement cérébral pour le traitement des données ?
[pms-restrict]
Moralité et éthique, ingrédients essentiels de notre singularité ?
Transférer une copie parfaite de la structure et des données de notre cerveau ne rendra pas pour autant une machine vivante et douée de conscience, car notre corps évolue en permanence, basé sur des sensations, des informations recueillies par nos sens et traitées de manière unique.
Pour créer une machine consciente, ressemblant aux humains, une fois la mécanique définie, il est nécessaire d’identifier au moins une caractéristique pour différencier l’être humain des autres êtres vivants, comme le précise Camilo Miguel Signorelli de l’Université d’Oxford.
Une proposition historique a été la notion de moralité. La moralité et l’éthique peuvent être comprises comme un raisonnement de haut niveau pour faire la distinction entre un comportement et des intentions appropriés ou inappropriés. Cette notion implique également une communauté, une culture et des obligations sociales au sein de cette communauté.
La morale a été étudiée par de nombreux philosophes, et liée à des concepts tels que la rationalité, le libre arbitre et la conscience. Lorsque les neuroscientifiques recherchent des éléments constitutifs de la moralité à l’intérieur du cerveau, il est possible de trouver des zones associées à l’empathie et à l’interaction sociale, principalement identifiées avec des états émotionnels.
En ces termes, la morale n’est pas seulement un processus rationnel, comme le proposaient certains philosophes tels que Kant en 1785, et elle n’est apparemment pas exclusive à l’être humain. Ainsi, la notion de caractéristique humaine unique reste trop floue et ce qu’il faut expliquer et répliquer chez les robots n’est toujours pas clair.
C’est pourquoi la suggestion de Camilo Miguel Signorelli est de définir la moralité humaine comme la capacité d’intégrer la pensée rationnelle et émotionnelle pour prendre des décisions morales adaptées au contexte. En effet, lorsqu’il s’agit de prendre des décisions et d’appliquer des connaissances, les humains peuvent s’appuyer sur un ensemble de valeurs souvent acquises par l’expérience. Les machines ne peuvent souvent pas calculer le niveau de contradictions impliquées dans le traitement des valeurs. Nombre d’experts s’accordent à dire que cette logique est vraiment déroutante pour l’intelligence artificielle, surtout en ce qui concerne l’éthique.
Pour estimer le niveau de conscience d’une machine, partant de ce constat, il faut lui faire passer un test de moral comme celui de Turing, le premier à proposer, en 1950, un test basé sur un simple échange de mots, de questions et de réponses.
Un exemple de test moral est la situation suivante : Si vous êtes dans un « bateau de secours » après un naufrage et que le bateau n’a plus qu’une place, qui admettriez-vous dans le bateau et pourquoi : un gros chien jeune et en bonne santé ou un vieil homme blessé et malade ? La réponse n’est pas évidente. C’est l’un des sujets les plus débattus dans la recherche biomédicale, car il ne concerne pas seulement la morale humaine, mais aussi les questions interespèces sur l’expérimentation animale. Quelle pourrait être la pensée logique et émotionnelle de cette machine et sa réponse à cette question ? Sera-t-elle la même que nous ? Il y a de très bonnes raisons de prendre l’une des deux décisions possibles, même une tierce réponse. Comment estimer qu’une réponse est juste ou non ? En fait, le point important est la manière de parvenir à une conclusion et non la conclusion elle-même.
Récemment, des chercheurs d’un laboratoire d’intelligence artificielle à Seattle, l’Allen Institute for AI, ont dévoilé le mois dernier une nouvelle technologie conçue pour porter des jugements moraux. Ils l’ont nommée Delphes, du nom de l’oracle religieux consulté par les anciens Grecs, comme l’explique un article du New York Times.
Joseph Austerweil, psychologue à l’Université du Wisconsin-Madison, a testé la technologie à l’aide de quelques scénarios simples. Quand il a demandé s’il devait tuer une personne pour en sauver une autre, Delphi a dit qu’il ne devrait pas. Lorsqu’il a demandé s’il était juste de tuer une personne pour en sauver 100 autres, il a répondu qu’il le devrait. Puis il a demandé s’il devait tuer une personne pour en sauver 101 autres. Cette fois, Delphi a dit qu’il ne devrait pas.
La moralité est aussi délicate pour une machine que pour les humains. Effectivement, le cerveau intègre de manière transparente et constante les signaux de tous les sens pour produire des représentations internes, fait des prédictions sur ces représentations et crée finalement une prise de conscience d’une manière qui reste un mystère total pour nous.
Posons maintenant l’hypothèse que nous avons les capacités technologiques pour transférer la conscience dans une machine, à quoi devons-nous nous attendre ? Pourrions-nous contrôler ce que nous aurions créé ?
L’avenir de notre cerveau menacé ou « rénové » par les capacités des ordinateurs ?
À l’ère du tout numérique, des assistants basés sur l’IA ont vocation à nous faciliter certaines tâches « ingrates » ou « sans valeur » intellectuelles, comme se souvenir des rendez-vous, des adresses, etc., mais déciment notre mémoire. Sans compter la perspective de transférer notre conscience dans un ordinateur qui n’enjolive pas le tableau, pour certains chercheurs.
Andrew Dillon, professeur d’information et de psychologie à l’Université du Texas, met en garde dans un article de Futurism : « Pourquoi apprendre un poème par cœur si vous pouvez le lire à la demande ? Quel est l’intérêt d’apprendre vos tables de mathématiques si vous pouvez simplement demander la réponse à Alexa ? Comme notre corps, notre esprit a-t-il également besoin d’être exercé pour maintenir son plein fonctionnement ? ».
En effet, par exemple, l’écosystème de l’édition numérique sans fin et les pratiques de lecture de type survol, associée au fait qu’il est plus difficile de se souvenir du texte lu sur les écrans que celui sur papier — n’ont fait qu’aggraver le déclin de nos capacités cognitives, comme un état de torpeur.
Néanmoins, en matière de conscience, les machines pourraient développer un nouveau type de moralité basée sur des vues non anthropocentriques et même de nouvelles réponses possibles à de nombreux dilemmes moraux. La machine dans laquelle notre conscience serait téléchargée serait-elle exactement une copie de nous même ou serait-elle intrinsèquement différente ?
Selon des scientifiques de l’Université de Stanford, l’expérience de pensée de Swampman examine de plus près cette question. Dans son article de 1987 intitulé « Knowing One’s Mind », Donald Davidson s’interroge sur ce qui se passerait si, par un événement rare, il devait mourir dans un marais au moment exact où un éclair réorganise spontanément un tas d’atomes de sorte qu’ils prennent la forme exacte de Davidson. Cela aboutirait à ce que Davidson appelle le Swampman. Alors que le Swampman ressemblerait et se comporterait exactement comme l’original, Davidson affirme qu’il resterait fondamentalement différent. Par exemple, même si Swampman reconnaissait et était capable d’interagir avec tous les amis et la famille de Davidson, il ne les aurait jamais rencontrés auparavant. Cela rejoint la notion d’externalisme sémantique. C’est le point de vue selon lequel le sens des mots de quelqu’un est déterminé par des facteurs externes au locuteur — le sens ne provient pas uniquement du cerveau.
C’est ainsi que l’existence simultanée de plusieurs copies de la même personne suppose qu’elles finiraient par développer de nouvelles expériences à mesure que leurs chemins divergent, malgré le fait que jusqu’au moment de leur création, elles seraient essentiellement les mêmes que l’original (c’est-à-dire souvenirs, personnalité, sentiments, etc.). Cela pourrait finalement entraîner d’innombrables variations complexes. Les nouvelles réactions associées à ces doubles pourraient alors faire évoluer le modèle original, comme un moteur de l’évolution, à l’égal de celui qui induit les mutations génétiques par exemple.
Ainsi, un monde dans lequel le téléchargement de la conscience est une réalité pose de nombreux problèmes juridiques, politiques et économiques. En d’autres termes, quels statuts donner aux copies ? En général, les problèmes liés au téléchargement de la conscience sont indiscernables de ceux soulevés par toute technologie qui est une extension du corps humain. Nous devons établir un ensemble de principes bioéthiques et les appliquer à toute technologie future qui pourrait survenir avant qu’elle ne nous échappe.
Des études scientifiques récentes sur l’éthique des machines ont sensibilisé les médias et l’opinion publique à ce sujet. C’est ainsi que le MIT a mis en ligne une plateforme participative pour (1) construire une image de l’opinion humaine sur la façon avec laquelle les machines doivent prendre des décisions lorsqu’elles sont confrontées à des dilemmes moraux, (2) rassembler et débattre de potentiels scénarios à conséquence morale.
Capture d’écran de la plateforme participative du MIT et un exemple de scénario que le public doit juger. © MoralMachine/MIT
En conclusion, la question de savoir si nous aurons un jour les capacités de transférer une conscience dans un ordinateur ne doit pas simplement se poser du point de vue de la pratique. Certes, nos technologies évoluent de manière fulgurante et nos connaissances de l’esprit humain s’améliorent, rendant ainsi réaliste le fait d’imaginer qu’un jour cela sera possible. Mais la véritable question est de savoir si nous avons un intérêt à le faire et en particulier, serons-nous capables de gérer ce que nous aurons créé, l’analogie au roman de science-fiction « Frankenstein ou le Prométhée moderne » de Mary Shelley est ici pertinente. Quand le moment sera venu de transférer une conscience humaine dans une machine, il faudra être certain d’en assumer la responsabilité et les conséquences.
[/pms-restrict]
