Sam Altman, PDG et cofondateur d’OpenAI, projette de développer une intelligence artificielle générale (IAG) qui aurait les mêmes capacités qu’un « humain médian », et pourrait ainsi être embauchée pour n’importe quel emploi. Suscitant à nouveau la controverse, des experts qualifient ce terme (humain médian) d’offensant et de rabaissant pour l’humain. Par cette vision, la tête pensante d’OpenAI semble clairement afficher son intention de nous remplacer par la technologie.
Aujourd’hui, l’IA démontre des capacités que nous n’aurions jamais crues possibles et s’intègre à quasiment tous les domaines, dont l’art, l’écriture, la recherche scientifique, les services publics, etc. Si elle permet d’énormes gains de performance dans certains secteurs, son utilisation fait en revanche débat pour d’autres. Mais malgré sa croissance fulgurante, sa portée est encore pour l’instant relativement limitée.
Depuis quelques années, Sam Altman projette de pleinement exploiter les capacités de la technologie avec l’IAG. À la différence de l’IA classique, dite « étroite » (ou faible), il s’agit d’une forme « forte » possédant des facultés que la première ne pourrait jamais atteindre. Comme nous le savons, l’IA étroite se base sur des systèmes d’algorithmes pour assimiler d’énormes quantités de données et effectuer des prédictions. Elle est ainsi spécifique au domaine pour lequel elle est dédiée, et y excelle. Cependant, ces capacités ne peuvent être transférées efficacement à un autre domaine. En revanche, l’IAG fait référence à une forme d’intelligence qui serait presque impossible à distinguer de celle de l’humain. Ainsi, tout comme nous, elle pourrait se consacrer à la résolution de n’importe quel problème et ne se limiterait pas qu’à une seule (ou quelques) spécialité(s).
« Notre mission est de garantir que l’IAG — des systèmes d’IA généralement plus performants que les humains dans de nombreuses tâches — profite à l’ensemble de l’humanité », a déclaré Altman dans un article de blog. Il estime que cette nouvelle forme d’IA dynamiserait plus que jamais l’économie mondiale et pourrait découler sur des découvertes scientifiques défiant les limites du possible.
Cependant, la tendance des acteurs du développement de l’IAG à vouloir faire en sorte qu’elle égale voire surpasse l’intelligence humaine suscite la controverse. Non seulement elle pourrait entraîner de sérieux risques d’utilisation abusive, mais elle pourrait également engendrer des changements majeurs dans notre société. De plus, la tendance déconcertante du PDG à utiliser le terme « humain médian » semble marquer les inquiétantes prémices de ces transformations. « Pour moi, l’IAG est l’équivalent d’un humain médian que vous pourriez embaucher comme collègue », disait-il. Cela a de quoi susciter la susceptibilité et pourrait être interprété comme une ambition claire de remplacer les employés humains par cette technologie.
L’IAG : la « pire erreur de l’histoire » ?
À terme, l’IAG afficherait plus ou moins les capacités de l’humain moyen, tout en conservant constamment le potentiel de devenir experte dans un domaine, à l’instar des IA conventionnelles. Cette polyvalence quasi illimitée pourrait lui permettre de supplanter n’importe quel scientifique ou employé de bureau. « C’est un pas extrêmement problématique à franchir, car tout d’un coup, vous attribuez une action, une compréhension, une cognition ou un raisonnement à ces modèles mécanistes », estime Brent Mittelstadt, directeur de recherche à l’Oxford Internet Institute.
En entraînant une explosion d’informations, il est prévu que l’IAG accélère de façon exponentielle la croissance économique. L’on pourrait alors atteindre le « point de singularité technologique », où tout basculera et entraînera des changements au niveau mondial. Les scientifiques estiment que cette étape, prédite il y a des années, sera atteinte vers l’année 2045, et ses conséquences s’étendront bien au-delà de la perte d’emploi.
Que ce soit OpenAI ou une autre entreprise technologique, la première à réussir à développer l’IAG aura une position dominante à l’échelle mondiale, que ce soit économique ou diplomatique. Un écart de conditions sociales considérable s’établira entre les pays disposant de la technologie et ceux qui accuseront du retard. Ces pays avancés seront par exemple non seulement encore plus riches qu’ils ne le sont déjà, mais décupleront également leur emprise économique, rendant les autres pays encore plus pauvres ou dépendants. Cela engendrera une toute nouvelle classe d’humains privilégiés, ce qui impactera dramatiquement celles situées en dessous.
En effet, le problème de la course à l’IAG est qu’il y a de fortes probabilités qu’elle puisse aboutir à des versions de mauvaise qualité, ne tenant pas suffisamment compte du bien-être humain par exemple. Ces dernières pourraient être utilisées à mauvais escient en contournant les normes de sécurité. En étant appliquées à l’armement par exemple, elles pourraient prendre des décisions nuisibles à l’humanité en considérant qu’il s’agit de la meilleure solution pour leur survie. Alors que les IA conventionnelles sont dernièrement sujettes aux scandales en raison de leur utilisation parfois peu éthique, l’IAG serait encore plus incontrôlable entre de mauvaises mains. Stephen Hawking avait même un jour suggéré que l’IAG pourrait être la « pire erreur de l’histoire » de l’humanité.
De son côté, OpenAI tente de mitiger les risques en évoquant des méthodes de développement prudentes et réfléchies. Désormais, Altman projette de s’engager dans des processus de développement entièrement transparents et ouverts. En outre, il souligne que son objectif est que l’IAG puisse bénéficier de manière égale à l’ensemble de l’humanité. Toutefois, son utilisation du terme « humain médian » soulève des questions quant à la cohérence de ses affirmations.