Anthropic vient d’annoncer qu’elle va être contrainte de suspendre les accès à Fable 5 et Mythos 5, ses modèles d’IA les plus avancés, pour tous ses utilisateurs, après que le gouvernement américain lui a ordonné d’en interdire l’accès aux ressortissants étrangers. Si le gouvernement a évoqué des raisons de sécurité nationale, l’entreprise affirme qu’il n’a donné aucun détail précis quant à la manière exacte dont ses modèles pourraient constituer une menace.
Anthropic a déployé il y a quelques jours ses modèles d’IA Claude Fable 5 et Claude Mythos 5 (la version grand public et celle à accès restreint respectivement), dont les capacités représenteraient un tout nouveau niveau de performance que l’entreprise qualifie de « classe Mythos ». Ces modèles ont largement fait parler d’eux dès leur lancement car ils seraient si performants que leur utilisation exposerait à des risques de cybersécurité.
Des experts ont affirmé que les modèles Mythos, entre de mauvaises mains, pourraient faciliter certaines cyberattaques à grande échelle, menaçant par exemple les secteurs financiers et la sécurité nationale. En conséquence, Anthropic semble avoir hésité temporairement à déployer ces modèles, mais les a finalement lancés en imposant des « garde-fous » interdisant leur utilisation dans des domaines à risque tels que la cybersécurité.
L’entreprise a également indiqué qu’elle limitait l’utilisation de ses modèles pour les tâches liées au développement d’autres grands modèles de langage, décision qui n’a pas manqué de provoquer la frustration des développeurs accusant Anthropic de « brider » intentionnellement les capacités des modèles Mythos. L’entreprise a cependant affirmé que cette décision découlait de la crainte que ses IA avancées n’accélèrent le développement de modèles concurrents sans protections de sécurité équivalentes.
Anthropic a affirmé avoir travaillé avec le gouvernement américain sur les questions de sécurité avant le lancement de ses modèles Mythos et que les modèles concurrents disposaient déjà de capacités comparables pour détecter des bugs mineurs dans du code. Cependant, malgré ces dispositions, le gouvernement a tout de même exhorté Anthropic à interdire l’accès aux modèles Mythos aux ressortissants étrangers.
Le bras de fer entre Anthropic et les autorités américaines
Les relations entre Anthropic et le gouvernement américain étaient déjà sous tension cette année après que l’entreprise a refusé à l’armée américaine l’utilisation de ses modèles d’IA pour la surveillance intérieure et les systèmes d’armes entièrement autonomes, selon le Guardian. En réponse, le gouvernement aurait placé Anthropic sur une liste noire de fournisseurs, une mesure qui entrera en vigueur plus tard dans l’année.
La nouvelle mesure de restriction imposée à Anthropic pourrait être liée potentiellement aux tensions entre l’entreprise et le gouvernement. Si ce dernier a imposé la restriction aux ressortissants étrangers, l’entreprise a décidé de suspendre l’accès aux modèles à l’ensemble de ses utilisateurs pour des raisons de conformité.
« Cette décision nous oblige à désactiver immédiatement Fable 5 et Mythos 5 pour tous nos clients afin de garantir la conformité. L’accès à tous les autres modèles d’Anthropic reste inchangé », a déclaré Anthropic dans un communiqué.
D’un autre côté, la décision semble également s’inscrire dans les efforts de Washington visant à freiner les capacités d’IA de ses rivaux étrangers. Ces efforts se sont cependant, pendant des années, concentrés sur la limitation des exportations de puces et autres outils d’IA, plutôt que sur l’utilisation des modèles eux-mêmes.
Pour expliquer sa décision de restriction, le gouvernement américain a évoqué des raisons de sécurité liées au fait qu’il pourrait exister des techniques de contournement (« jailbreaking ») des protocoles de protection empêchant l’utilisation des modèles Mythos pour détecter des failles de sécurité dans des systèmes informatiques.
« Certaines choses sont tout simplement plus importantes que les cycles de revenus, les titres racoleurs et la valorisation pré-introduction en bourse. L’Amérique d’abord, toujours. », a expliqué la responsable des systèmes d’information du Pentagone, Kirsten Davies, dans un message publié sur X. Anthropic a déposé confidentiellement une demande d’introduction en bourse le mois dernier.
Anthropic a cependant indiqué que la décision du gouvernement ne respectait pas les principes d’une réglementation équitable et fondée sur les faits. Elle affirme notamment que le gouvernement ne lui a fourni que des « preuves verbales concernant une possible faille de sécurité limitée et non universelle », selon le communiqué.
« Nous contestons que la découverte d’une faille potentielle, même limitée, justifie le rappel d’un modèle commercial déployé auprès de centaines de millions de personnes », a déclaré l’entreprise. Cette dernière a déclaré croire qu’il pourrait s’agir d’un malentendu et qu’elle s’efforcera de rétablir l’accès aux modèles au plus vite.
