Nous sommes actuellement à un stade où l’IA est d’un côté célébrée pour ses prouesses et, d’un autre, scrutée pour les risques qu’elle représente. En effet, malgré ses promesses de révolutionner différents secteurs, cette technologie cache également un côté sombre. Lors d’une interview, le directeur général (DG) de DeepMind fait part de ses inquiétudes en appelant à une plus grande réglementation, « afin d’éviter le pire ».
Lors d’une récente interview accordée au média The Guardian, Demis Hassabis, à la tête de DeepMind — l’unité spécialisée en IA de Google — a alerté sur la nécessité d’une prise de conscience mondiale concernant les enjeux liés à l’IA. Pour le DG britannique, les dangers potentiels que pourrait apporter cette technologie sont aussi alarmants que ceux liés à la crise climatique actuelle. « Nous devons considérer les risques de l’IA aussi sérieusement que d’autres défis mondiaux majeurs, comme le changement climatique », a-t-il déclaré, illustrant l’importance qu’il accorde à ce sujet.
Alors que l’IA possède un potentiel énorme pour transformer positivement divers domaines, Hassabis a soulevé certaines préoccupations. Il a évoqué notamment deux principales inquiétudes, dont en premier lieu l’éventuelle capacité de l’IA à contribuer à la création d’armes biologiques.
[pms-restrict subscription_plans= »23495, 23512, 23514″]
Bien que cette technologie puisse accélérer le développement de médicaments, elle peut également être détournée pour la fabrication d’agents pathogènes ou de toxines dans un contexte militaire. Dans la suite de l’interview, Hassabis a averti de la possibilité que l’humanité puisse un jour créer un système dont l’intelligence surpasserait largement nos propres capacités cognitives.
Un GIEC, un CERN et une AIEA pour l’IA
Dans son discours, Hassabis suggère une approche pour la régulation et la surveillance de l’industrie de l’IA. Il préconise tout d’abord la mise en place d’un organisme international inspiré du GIEC (Groupe d’experts intergouvernemental sur l’évolution du climat). La mission de cette institution serait d’assurer la connaissance mondiale de l’IA, de centraliser les recherches actuelles concernant l’IA et de produire des rapports périodiques sur les avancées, les risques et les recommandations concernant la technologie.
Hassabis présente aussi sa vision à plus long terme. Il imagine la création d’une entité similaire au CERN (Conseil Européen pour la Recherche Nucléaire). L’organisme rassemblerait des scientifiques, dont la mission principale serait d’explorer en profondeur les implications de l’IA, notamment en matière de sécurité.
Finalement, le DG de DeepMind a évoqué l’idée d’une organisation internationale équivalente à l’AIEA (Agence Internationale de l’Énergie Atomique), un organisme chargé de promouvoir l’utilisation sûre du nucléaire. Hassabis envisage ainsi la création d’une entité internationale qui aurait le pouvoir de veiller à ce que les développements et applications de l’IA respectent certaines normes et régulations, afin d’assurer la sécurité mondiale.
Une inquiétude palpable concernant l’IAG
Hassabis reconnaît l’énorme potentiel des futurs systèmes d’IA. Ceux-ci pourraient, selon lui, révolutionner divers domaines et apporter des solutions innovantes à des problèmes complexes. Mais dans un futur relativement lointain (bien que pas assez à ses yeux), il s’attend également à ce que l’intelligence artificielle générale (IAG) voie le jour.
Contrairement à l’IA que nous voyons principalement aujourd’hui, dont GPT d’OpenAI, l’IAG serait capable d’effectuer n’importe quelle tâche intellectuelle faisable par l’homme. Autrement dit, un système aux capacités de raisonnement, d’apprentissage, d’adaptation et d’autonomie similaires voire supérieures aux nôtres. Et la principale préoccupation avec l’IAG, selon Hassabis, c’est qu’elle puisse potentiellement échapper au contrôle humain, entraînant des conséquences potentiellement dangereuses.
Pour lui, même si l’avènement d’une IAG véritable semble encore lointain, il vaut mieux anticiper. Il a d’ailleurs affirmé que les IA actuelles « ne sont pas dangereuses, mais les prochaines générations pourraient le devenir lorsqu’elles disposeront de capacités supplémentaires telles que la planification, la mémoire à long terme et d’autres choses ».
[/pms-restrict]
