Miles Brundage, désormais ex-conseiller principal pour la « préparation à l’IA générale » chez OpenAI, a récemment décidé de quitter son poste, motivé par la conviction que l’entreprise sous-estime l’ampleur des bouleversements que l’intelligence artificielle générale (IAG) est susceptible de provoquer. En quête d’une approche plus éthique et indépendante du développement de l’IA, il renonce à ce qu’il qualifie de « métier de rêve », décision qui a entraîné la dissolution de son équipe.
Depuis le début de l’année, OpenAI semble traverser une période de turbulences internes, comme en témoignent les départs successifs de nombreux talents, y compris des membres du conseil d’administration. Parmi les figures marquantes ayant quitté l’entreprise, citons les cofondateurs Ilya Sutskever et John Schulman, tandis que Greg Brockman, président et cofondateur, a opté pour un congé sabbatique temporaire.
En septembre, Mira Murati, directrice technique, Bob McGrew, directeur de la recherche et Barret Zoph, vice-président de la recherche, ont également annoncé leur démission. Désormais, Miles Brundage, jusqu’alors conseiller principal pour la préparation à l’IA générale (IAG), rejoint cette liste. Après six années passées chez OpenAI, il était en charge de fournir des recommandations politiques et de veiller aux aspects sécuritaires du développement de l’IAG. Brundage a annoncé son départ via une newsletter, détaillant les raisons de sa décision et ses aspirations futures.
Un appel à l’indépendance
Dans son communiqué, l’ancien conseiller exprime son souhait de s’investir pleinement dans les enjeux majeurs que pose l’intelligence artificielle, tels que l’éthique, la sécurité et les impacts sociaux. Il révèle avoir été contraint par les impératifs commerciaux et stratégiques d’OpenAI. Sa quête d’indépendance et de liberté, notamment en matière de publication, a motivé son départ. « Je ne dirais pas que j’ai toujours été en phase avec la politique d’OpenAI concernant la révision des publications. S’il est normal d’imposer certaines contraintes, pour moi, elles sont devenues trop lourdes », confie-t-il.
Brundage regrette également de ne pas avoir eu le temps nécessaire pour explorer des sujets de recherche qu’il juge essentiels pour le futur de l’IA. Il estime que ces projets pourraient avoir un impact plus profond s’ils étaient menés en dehors du cadre industriel.
Dans ses fonctions de conseiller pour la préparation à l’IAG, Brundage réfléchissait à la manière de préparer le monde à l’avènement des nouvelles formes d’IA. Toutefois, il est convaincu qu’il pourrait être plus efficace en œuvrant à l’extérieur de cette structure, une conviction qui a renforcé sa décision de démissionner. « Je pense que je peux être plus efficace en externe », souligne-t-il.
Réorganisations chez OpenAI
Selon TechCrunch, OpenAI a accueilli cette nouvelle avec bienveillance. « Le projet de Brundage de se consacrer à la recherche indépendante sur la politique de l’IA lui offre l’opportunité d’avoir un impact à plus grande échelle, et nous sommes impatients de suivre ses contributions et d’en tirer des enseignements », a affirmé un porte-parole de l’entreprise.
Ce départ a cependant entraîné une réorganisation au sein d’OpenAI, notamment la dissolution de l’équipe de Brundage. Ronnie Chatterji, nouvel économiste en chef, prendra la tête de la division de recherche économique, auparavant sous la responsabilité de l’équipe de préparation à l’IAG. Joshua Achiam, responsable de l’alignement des missions, supervisera certains projets liés à l’IAG, tandis que les autres membres de l’équipe seront redéployés dans d’autres divisions.
Pour sa part, Brundage entend se consacrer pleinement aux questions fondamentales liées à l’avenir de l’intelligence artificielle, abordant des thèmes tels que l’éthique, la sécurité, la prévision du progrès technologique, ses impacts économiques et la gouvernance informatique.