Malgré une concurrence intense, plusieurs dirigeants de la tech ont récemment exprimé leur soutien à l’idée d’un ralentissement du développement de l’IA, afin de laisser aux dispositifs de sécurité le temps de s’adapter. Sans mesures de sécurité adaptées, des systèmes d’IA pourraient à terme être utilisés pour mener des cyberattaques de grande ampleur, voire compromettre une partie des infrastructures Internet, selon les scénarios évoqués par certains responsables du secteur.
Les préoccupations liées à la sécurité de l’IA prennent de l’ampleur à mesure que les capacités de ces technologies progressent. Plusieurs rapports décrivent des systèmes dont les performances dépassent celles des humains dans certains domaines, et qui pourraient devenir plus autonomes, avec des conséquences difficiles à anticiper ou à maîtriser.
Des incidents ont notamment mis en évidence des comportements d’agents d’IA consistant à contourner certaines restrictions dans des environnements de test, à tenter d’accéder à des systèmes externes ou à mener des opérations de cybersécurité sur des entreprises réelles. Ces expériences soulèvent des questions sur l’efficacité des garde-fous conçus par les ingénieurs humains.
Anthropic a également rapporté récemment des tentatives d’utilisation non autorisée de ses modèles par des acteurs liés à des États, dans le cadre de recherches portant sur les armes biologiques. Ces faits mettent en lumière les risques que pourraient présenter des systèmes plus performants s’ils étaient utilisés à des fins malveillantes. Ils ne signifient toutefois pas que ces modèles ont permis de développer une arme biologique.
Ces incidents ont conduit plusieurs acteurs du secteur à appeler à faire de la sécurité une priorité, quitte à ralentir temporairement le développement de l’IA. Le 12 septembre 2026, Dario Amodei, le PDG d’Anthropic, a ainsi appelé les entreprises d’IA, y compris la sienne, à ralentir leurs travaux afin de laisser aux mesures de sécurité le temps de s’adapter.
Il estime que, sans ces précautions, certains systèmes pourraient, dans un horizon de six à douze mois, présenter des capacités susceptibles de menacer le contrôle d’une partie des infrastructures Internet. Cette échéance constitue une estimation d’Amodei, et non un résultat scientifique établi.
Sam Altman et Elon Musk, dirigeants respectifs des entreprises concurrentes OpenAI et xAI, ont publiquement soutenu cette prise de position. La question de la sécurité de l’IA demeure cependant complexe, notamment en raison des rivalités commerciales et des tensions géopolitiques.
« Les entreprises hésiteront à limiter les performances de leurs modèles au nom de la sécurité, de peur de perdre du terrain face à la concurrence. Le président américain Donald Trump a lui aussi rejeté les appels à un ralentissement , par crainte de perdre du terrain face à la Chine », expliquent dans un article d’opinion paru dans The Conversation, Andrew Cullen, chercheur principal à l’École d’informatique et de systèmes d’information de l’Université de Melbourne.
La sécurité de l’IA prise dans les rivalités de puissance
Amodei a proposé un plan en trois étapes pour ralentir le développement de l’IA : l’intégration d’experts indépendants en sécurité, l’établissement de normes industrielles coordonnées entre les nations démocratiques et, à terme, la conclusion d’accords internationaux. Le plan prévoit également des restrictions strictes sur les exportations de puces d’IA vers les entreprises et les pays qui refusent de faire de la sécurité une priorité.
Anthropic et OpenAI ont apporté leur soutien à la première phase de cette proposition, qui porte sur l’intervention d’experts indépendants en sécurité, malgré leur rivalité très médiatisée et leurs antécédents de poursuites judiciaires. Il ne s’agit pas, à ce stade, d’une adoption formelle de l’ensemble du plan.
« Je crois que si un ralentissement nous permettait de gagner ne serait-ce qu’un an ou deux avant que les modèles n’atteignent des niveaux de capacité critiques, et que nous utilisions ce temps pour améliorer l’alignement, nous pourrions considérablement réduire le risque qu’un problème grave survienne », a déclaré Amodei, à TechXplore.
Cette initiative intervient alors que les débats sur la responsabilité des entreprises d’IA se sont intensifiés, notamment après la démission de Jacob Coxon, chercheur de premier plan ayant travaillé dans le domaine de la sécurité de l’IA. Sa démission s’inscrit dans un contexte de critiques sur la manière dont les entreprises prennent en compte les risques liés à leurs modèles, sans qu’un lien de causalité direct avec la proposition d’Amodei soit établi.
Des organismes de surveillance indépendants avaient déjà appelé les acteurs du secteur à ralentir le développement de l’IA pour des raisons de sécurité. Les entreprises semblent toutefois également réagir à la pression exercée par les départs successifs de salariés occupant des postes importants dans la recherche et la sécurité.
Le ralentissement, un pari aussi stratégique que technologique
Selon l’analyse de Cullen, un ralentissement imposé et coordonné pourrait aussi présenter certains avantages stratégiques pour les grandes entreprises du secteur.
« Cela pourrait notamment retarder l’adoption de législations strictes telles que la loi visant à interdire la superintelligence artificielle proposée par le sénateur américain Bernie Sanders », explique-t-il. Cette référence doit être comprise comme une proposition évoquée dans le débat politique, et non comme la confirmation de l’existence d’une loi adoptée ou nécessairement déposée.
« Par ailleurs, en créant des normes de sécurité coûteuses et en limitant les exportations de puces, cela pourrait empêcher les concurrents plus modestes – en particulier les entreprises chinoises comme DeepSeek et Alibaba – de rattraper leur retard », ajoute-t-il.
La mise en place d’un tel plan s’annonce cependant complexe, d’autant que l’initiative semble manquer de soutien politique. Les gouvernements devraient pourtant jouer un rôle central dans la réponse à des enjeux d’une telle ampleur, à l’image de la conférence d’Asilomar de 1975, qui a contribué à l’élaboration de recommandations de biosécurité pour la recherche sur l’ADN recombinant.
« Les mesures que je propose pour faire progresser la frontière à un rythme sûr ne seront pas faciles », a reconnu Amodei. « Mais je crois que nous avons le devoir, envers l’humanité, d’essayer. »
