Geoffrey Hinton, l’un des pionniers de l’intelligence artificielle (IA), exprime une nouvelle fois ses inquiétudes par rapport aux risques encourus par l’humanité face à la fulgurante évolution de la technologie. Il est selon lui probable qu’elle puisse un jour « prendre le contrôle de l’humanité », ce qui nous reléguerait au rang de « deuxième être le plus intelligent » de la planète. Selon lui, les conséquences de cet essor rapide peuvent être dramatiques et bouleverser à terme l’ordre mondial.
Dans l’état actuel des choses, l’IA évolue sur une trajectoire visant à atteindre le niveau d’intelligence humaine. Bientôt, les systèmes d’IA les plus aboutis auront une telle capacité d’autoamélioration qu’ils pourraient dépasser nos capacités intellectuelles. « Une machine ultraintelligente peut être définie comme une entité capable de surpasser de loin toutes les activités intellectuelles de n’importe quel homme, aussi intelligent soit-il. Puisque la conception de machines fait partie de ses activités intellectuelles, une machine ultraintelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une ‘explosion de l’intelligence’, et l’intelligence humaine serait largement laissée derrière », a prédit Irving John Good en 1965, un expert en probabilités de l’Université de Cambridge.
Les scientifiques estiment que le jour où l’IA atteindra ou surpassera notre intelligence, nous atteindrons le « point de singularité technologique » — un événement qui aurait 50% de chances de se produire d’ici 2045. Selon Good, cette forme de technologie serait la dernière réalisation majeure dont l’humanité a besoin, à condition qu’on puisse la contrôler. Cependant, l’incertitude concernant notre capacité à la contrôler est justement ce qui inquiète les pionniers du domaine, dont Hinton. En abordant l’hypothèse selon laquelle elle pourrait supplanter l’humain, il a déclaré : « je ne dis pas que cela se produira, mais il n’est pas sûr que nous puissions empêcher les IA de le faire ».
L’humain sur le point de devenir le « deuxième être le plus intelligent » ?
À l’instar de l’humain, les systèmes d’IA peuvent apprendre de leurs expériences. Lorsqu’une erreur se produit, le message se propage à travers le réseau de neurones artificiels qui les compose. Alors que les connexions correctes se renforcent, celles ayant généré les erreurs s’affaiblissent. Grâce aux répétitions d’essais et d’erreurs, l’IA apprend d’elle-même. Pour l’analogie, ce serait comme un enfant apprenant comment se tenir correctement sur un vélo, après être tombé plusieurs fois en s’y essayant.
Cependant, Hinton estime que l’IA possède une meilleure capacité d’apprentissage que l’humain. Les plus grands chatbots actuels ne contiennent qu’environ 1000 milliards de connexions neuronales, tandis que nous disposons de 10 000 milliards de synapses par centimètre cube de cerveau. Pourtant, ils sont bien meilleurs que nous pour assimiler de nouvelles informations. Le fait est que c’est « une bien meilleure façon d’acquérir des connaissances, mais qui n’est pas entièrement comprise », explique l’ancien ingénieur de Google. Cela signifie qu’à mesure que ces réseaux gagnent en performance, les contrôler précisément devient plus complexe. « Nous avons une très bonne idée de ce que font ces modèles pour apprendre. Mais dès qu’ils deviennent vraiment complexes, nous ne pouvons pas en savoir plus sur le fonctionnement exact que sur celui du cerveau humain », ajoute-t-il.
Hinton a confié que l’IA qu’il a contribué à mettre au point était le fruit d’un accident. À l’origine, ses recherches menées sur les réseaux neuronaux artificiels visaient à améliorer la compréhension du fonctionnement biologique du cerveau humain. Il ne semble pas avoir anticipé la manière dont la technologie a aussi rapidement évolué et a été appliquée dans de nombreux autres domaines. Plus tôt cette année, il avait déclaré que l’on se situe désormais dans une époque charnière quant aux avancées de l’IA.
Avec le temps, l’IA reléguera l’humain au rang de deuxième être le plus intelligent de la planète, selon Hinton. Bien que la technologie ait été au départ conçue pour nous assister, toujours plus de preuves suggèrent qu’elle pourrait bientôt nous supplanter, même les meilleurs d’entre nous. Si certaines IA se montrent déjà rebelles et semblent ne pas hésiter à montrer une certaine forme d’émotion, les futures versions (l’IA générale) pourraient remplacer « l’humain médian », comme l’a récemment suggéré Sam Altman, le PDG d’OpenAI.
« Nous sommes comme de petits enfants jouant avec une bombe »
L’un des moyens par lesquels les IA pourraient devenir incontrôlables est la capacité à écrire du code informatique pour s’automodifier. « Et c’est quelque chose dont nous devons sérieusement nous inquiéter », indique Hinton. En prenant des décisions malveillantes, elles pourraient être impossibles à désactiver. Étant donné qu’elles se forment sur les meilleures informations disponibles (les manuels scientifiques ou politiques, ainsi que les romans), elles seront capables de nous manipuler de sorte à nous convaincre de ne pas leur nuire, ou de montrer que nous dépendons entièrement d’elles.
L’ingénieur précise d’ailleurs que les impacts négatifs des IA ne se limitent pas uniquement au remplacement des humains (travailleurs et dirigeants), mais également à leur utilisation non éthique par l’humain même. Ces conséquences négatives vont par exemple de l’armement à la propagation de désinformation. « Nous sommes comme de petits enfants jouant avec une bombe. Tel est le décalage entre la puissance de notre jouet et l’immaturité de notre conduite », ont conclu des chercheurs abordant les risques liés à l’IA dans une étude publiée en 2021.