Jeudi dernier, OpenAI a officiellement annoncé l’adhésion de Paul Nakasone — général à la retraite de l’armée américaine et ancien directeur de la National Security Administration (NSA) — en tant que membre de son Conseil d’administration. Alors que l’entreprise entend s’appuyer sur sa vaste expérience en matière de cybersécurité, des observateurs, tels que le célèbre lanceur d’alerte Edward Snowden, considèrent cette décision plutôt d’un mauvais œil, craignant notamment une tentative d’espionnage généralisé.
Mainte fois pointée du doigt pour ses négligences en matière de sécurité et de transparence, OpenAI fait à nouveau parler d’elle en intégrant Nakasone parmi ses membres haut placés. Il rejoindra en priorité le comité de sûreté et de sécurité chargé d’effectuer des recommandations à l’ensemble du Conseil d’administration, concernant les décisions critiques pour tous les projets et opérations de l’entreprise.
« L’expérience inégalée du général Nakasone dans des domaines tels que la cybersécurité aidera OpenAI à réaliser sa mission consistant à garantir que l’intelligence artificielle générale profite à l’ensemble de l’humanité », explique dans un communiqué d’OpenAI Bret Taylor, président du Conseil d’administration.
Nakasone a été directeur de la NSA entre 2018 et 2022 et était également membre de l’United States Cyber Command (USCYBERCOM), l’agence gouvernementale de cybersécurité des États-Unis. Il était en quelque sorte chargé de la protection de l’infrastructure numérique du pays ainsi que du développement des capacités de cyberdéfense. Il a en outre occupé des postes de commandement d’état-major et a effectué des missions au sein de cyberunités d’élite au niveau national en Corée, en Irak et en Afghanistan.
Cette décision intervient après une série de départs très médiatisés impliquant des chercheurs en cybersécurité, tels que Daniel Kokotajlo. Ce dernier avait dénoncé les pratiques douteuses d’OpenAI en matière de sécurité et de transparence dans une lettre ouverte signée par d’anciens et actuels membres du personnel, ainsi que des employés de Google DeepMind. De plus, l’entreprise a entièrement dissous « Superalignment », son ancienne équipe de sécurité, pour la remplacer par un nouveau comité dirigé par son PDG, Sam Altman.
Cependant, alors que l’intégration de Nakasone est considérée comme un effort dans ce sens, ce dernier a précédemment déjà suscité la controverse en étant impliqué dans des programmes d’espionnage des citoyens américains. Snowden soupçonne que les technologies d’IA d’OpenAI pourraient pousser cette pratique non conforme aux droits humains à son paroxysme.
« Ils ont complètement retiré leur masque : ne faites jamais confiance à OpenAI ou à ses produits », a-t-il écrit sur son compte X. « Il n’y a qu’une seule raison pour nommer un directeur de la NSA au conseil d’administration : il s’agit d’une trahison délibérée et calculée des droits de chaque personne sur la planète », a-t-il ajouté.
Des espionnages s’étendant au-delà des États-Unis
Ancien sous-traitant de la NSA, Snowden a divulgué en 2013 des documents classifiés révélant l’ampleur du programme d’espionnage de la population du gouvernement américain. Ces documents indiquaient que la NSA collectait et stockait secrètement de grandes quantités de données non seulement sur les citoyens américains, mais également sur les citoyens étrangers, même ceux qui ne sont soupçonnés d’aucun acte répréhensible.
Ces données allaient des enregistrements téléphoniques aux SMS, en passant par les e-mails, les données de navigation internet et de localisation provenant des téléphones portables et autres appareils. Ces informations étaient collectées sans mandat de perquisition, directement auprès de grandes entreprises telles que Google, Meta et Apple, par le biais d’un programme gouvernemental appelé PRISM.
D’autre part, les documents de Snowden ont révélé que les activités de surveillance de la NSA ne se limitaient pas uniquement aux États-Unis, mais s’étendaient également à d’autres pays. Étant donné les antécédents de Nakasone à la NSA, son arrivée chez OpenAI suscite inévitablement de vives critiques de la part de la communauté technologique.
« Je pense que la plus grande application de l’IA sera la surveillance en masse de la population, donc amener l’ancien chef de la NSA chez OpenAI a une solide logique derrière cela », a par exemple écrit sur X Matthew Green, professeur de cryptographie à l’Université Johns Hopkins.
D’un autre côté, d’autres observateurs suggèrent que l’intégration de Nakasone peut au contraire être bénéfique pour l’entreprise. Il apporterait non seulement son expertise en cybersécurité, mais également en ce qui concerne la sécurité en matière de décisions électorales et concernant les problèmes de cyberespionnage de la Chine.
Le général à la retraite a, quant à lui, déclaré que l’engagement d’OpenAI dans ses missions s’aligne avec ses valeurs et son expérience de longue date dans le service public. « J’ai hâte de contribuer aux efforts d’OpenAI pour garantir que l’intelligence artificielle générale soit sûre et bénéfique pour les personnes du monde entier », conclut-il.