Un chercheur principal de Google DeepMind a affirmé dans une récente étude que l’IA ou tout autre système informatique ne deviendra jamais conscient, ce qui semble contredire les discours des dirigeants du secteur sur l’IA générale. Si l’hypothèse avait déjà été évoquée, son renforcement de la part d’un membre de l’une des grandes entreprises technologiques travaillant activement dans le domaine interpelle sur le décalage entre les discours véhiculés et les perspectives réelles.
Les grands modèles de langage ont démontré de telles performances que la question de savoir s’ils pourraient un jour développer une forme de conscience a émergé autant chez les scientifiques que dans les débats publics. Le gain rapide de puissance de calcul suggère qu’ils pourraient devenir suffisamment sophistiqués pour développer des comportements complexes considérés comme spécifiques aux humains.
Cette hypothèse suppose que parce que les développeurs ont organisé les données de manière à permettre à l’IA de manipuler le langage, les symboles et les images pour imiter un comportement humain réaliste, elle pourrait effectivement atteindre la conscience. Ilya Sutskever, cofondateur et ancien directeur scientifique chez OpenAI, avait même déclaré en 2022 qu’« il se pourrait que les grands réseaux neuronaux actuels soient légèrement conscients ».
Les dirigeants des entreprises d’IA semblent s’appuyer sur cette possibilité pour promouvoir le concept d’IA générale (IAG) aux investisseurs, ainsi que sur le fait que ce niveau d’intelligence généralisée amorcerait une révolution socioéconomique à l’échelle mondiale. L’hypothèse de l’IA consciente a également motivé des propositions sérieuses quant aux questions de bien-être et de responsabilité morale de la technologie.
Cette hypothèse fait cependant, comme l’on peut s’y attendre, l’objet de controverses. Des études ont suggéré que des algorithmes mathématiques implémentés sur des cartes graphiques ne pourraient pas développer une conscience car ils sont dépourvus de substrat biologique complexe. Leurs capacités linguistiques avancées visant à imiter fidèlement le langage humain seraient cependant susceptibles d’induire facilement en erreur.
Dans son étude parue récemment sur le serveur de l’entreprise, Alexander Lerchner, chercheur principal chez Google DeepMind, renforce cette hypothèse. « Le fonctionnalisme computationnel domine les débats actuels sur la conscience de l’IA. Ce cadre propose une réfutation physiquement fondée de cette approche, permettant de lever l’incertitude actuelle concernant la conscience de l’IA », écrit le chercheur dans son document.
Entre scepticisme scientifique et enjeux industriels
Le fonctionnalisme computationnel est l’hypothèse selon laquelle l’expérience subjective (qui sous-tend la conscience) peut émerger d’une topologie causale abstraite, indépendamment du substrat physique sous-jacent. Lerchner réfute cette hypothèse en affirmant que tout système d’IA dépend d’un agent cognitif actif, c’est-à-dire un développeur humain, pour obtenir et organiser des suites d’idées et de données, et ne pourrait donc pas développer elle-même des comportements complexes comme la conscience.
En gros, le chercheur stipule que développer une forme de conscience est impossible sans corps physique complexe. « Je partage 99 % des idées de Lerchner », a déclaré Mark Bishop, professeur d’informatique cognitive à l’université de Londres, à 404 Media. « Mon seul bémol, c’est que tous ces arguments ont été présentés il y a des années », souligne-t-il.
« Je pense qu’il [Lerchner] est arrivé à cette conclusion tout seul, qu’il a réinventé la roue et qu’il n’est pas très cultivé, surtout dans les domaines philosophiques et certainement pas en biologie », a ajouté Johannes Jäger, biologiste des systèmes évolutionnaires et philosophe.
D’après l’expert, cela pourrait s’expliquer par le fait que la communauté de recherche en IA est relativement fermée et a tendance à se concentrer uniquement sur des domaines de recherche spécifiques. « J’imagine que c’est un environnement sous haute pression et qu’ils développent des technologies sans avoir le temps de se documenter », suggère Jäger.
Les deux experts estiment tous deux que le fait qu’un chercheur de Google DeepMind réfute l’hypothèse de l’IA consciente est positif, bien que cela semble étrange que ses employeurs l’aient autorisé à publier son étude. Il est possible que cela soit lié à des raisons financières ou législatives de la part de l’employeur.
« On peut imaginer de nombreuses raisons financières et législatives pour lesquelles Google se réjouirait d’une conclusion selon laquelle les calculs ne peuvent pas être conscients », a expliqué Bishop à 404 Media. « Car si l’inverse était vrai – et aussi étrange que cela puisse paraître, en Europe, certains illuminés ont tenté il y a quelques années de faire adopter une loi au Parlement européen pour accorder des droits aux systèmes informatiques, ce qui semble tout simplement absurde. Mais on peut imaginer que Google sera ravi que l’on ne considère pas ses systèmes comme conscients. Cela signifie qu’ils pourraient être moins soumis à la législation, que ce soit aux États-Unis ou ailleurs dans le monde. »
L’étude de Lerchner comporte néanmoins une clause de non-responsabilité indiquant que les résultats ne reflètent pas nécessairement la position officielle, les opinions ou les politiques stratégiques de son employeur.
