Au cours des dernières décennies, l’intelligence artificielle (IA) a connu un essor technologique considérable. Aujourd’hui, des algorithmes intelligents sont embarqués dans de très nombreux objets, des voitures aux téléviseurs en passant par les smartphones et les scanners médicaux. Et récemment, pour la première fois, l’IA a été intégrée à l’aviation militaire. En effet, l’armée de l’air américaine a mené une série de tests dans laquelle un avion de reconnaissance U-2 Dragon lady était équipé d’une IA gérant ses capteurs et certains systèmes de navigation spécifiques. Bien que les commandes principales et l’armement soient entièrement restés aux mains du pilote, ces essais marquent une étape importante dans la collaboration militaire avec l’IA.
L’armée de l’air a autorisé un algorithme d’intelligence artificielle à contrôler les capteurs et les systèmes de navigation sur un avion espion U-2 Dragon Lady lors d’un vol d’entraînement mardi, marquant ce qui est documenté comme la première utilisation connue de l’IA à bord d’un avion militaire américain. Aucune arme n’était impliquée et l’avion était dirigé par un pilote.
Malgré cela, les hauts responsables de la défense ont vanté le test comme un tournant dans les tentatives du département de la Défense d’intégrer l’IA aux avions militaires, un sujet qui fait l’objet d’un débat intense dans les communautés de l’aviation et du contrôle des armements. « C’est la première fois que cela se produit », déclare le secrétaire adjoint de l’armée de l’air Will Roper.
Une IA restreinte aux systèmes de capteurs et navigation tactique
Le système d’IA a été délibérément conçu sans commande d’urgence manuelle pour « provoquer la réflexion et l’apprentissage dans l’environnement de test », explique le porte-parole de l’armée de l’air Josh Benedetti. L’IA a été reléguée à des tâches très spécifiques et isolée des commandes de vol de l’avion, selon les personnes impliquées dans le test.
« Globalement, j’étais toujours le pilote aux commandes », indique le pilote du U-2 qui a effectué le test. Le pilote a parlé sous couvert d’anonymat en raison de la nature sensible de son travail. « Le rôle de l’IA était très restreint… mais, pour les tâches auxquelles l’IA était confrontée, elle a bien fonctionné ».
Le test de deux heures et demie a été effectué lors d’une mission d’entraînement de routine à la base aérienne de Beale, près de Marysville, en Californie, dès mardi matin. Les responsables de l’armée de l’air et le pilote du U-2 ont refusé de donner des détails sur les tâches spécifiques exécutées par l’IA, mis à part qu’elle a été chargée des capteurs radar de l’avion et de la navigation tactique.
Une collaboration entre l’Homme et la machine
Roper déclare que l’IA avait été entraînée contre un ordinateur adverse pour rechercher des missiles et des lanceurs de missiles venant en sens inverse. Dans l’objectif du test initial, l’IA devait décider où diriger les capteurs de l’avion. Le but est de rapprocher l’Armée de l’Air du concept « d’association homme-machine », dans lequel les robots sont responsables de tâches techniques limitées tandis que les humains restent en contrôle des décisions de vie ou de mort, comme le contrôle de vol et le verrouillage des cibles.
L’IA « ne fait pas simplement partie du système… Nous l’enregistrons dans le registre des pilotes », indique Roper. L’IA elle-même, surnommée ARTUµ dans une référence apparente à Star Wars, est basée sur des algorithmes logiciels open source et adaptée aux systèmes informatiques de l’avion au laboratoire fédéral U-2.
Elle est basée sur un algorithme appelé µZero, qui a été développé par la société de recherche en IA DeepMind, connue notamment pour maîtriser rapidement des jeux stratégiques comme Chess and Go, selon deux responsables de son développement. Et elle est activée par un système développé par Google et également accessible au public appelé Kubernetes, qui permet au logiciel d’intelligence artificielle d’être porté entre les systèmes informatiques embarqués de l’avion et celui sur lequel il a été développé.
La difficulté de développer des systèmes entièrement autonomes
À première vue, le U-2 semble un candidat peu probable pour un vol géré par l’IA. Il a été développé pour la CIA au début des années 1950 et utilisé tout au long de la guerre froide pour effectuer une surveillance à des altitudes incroyablement élevées de 18 km. Les avions ont ensuite été achetés par le département de la Défense. Mais sa fonction de surveillance est un module qui a déjà intégré l’utilisation de l’IA pour analyser des données complexes.
Un programme de l’armée de l’air appelé Project Maven a cherché à analyser rapidement des paquets de séquences de drones à la place des humains. Google a refusé de renouveler son contrat Maven à la suite d’une révolte interne d’employés qui ne voulaient pas que les algorithmes de l’entreprise soient impliqués dans la guerre. La société a par la suite publié un ensemble de principes d’IA qui interdisaient l’utilisation des algorithmes de la société dans tout système d’armes.
Emerson Schmidt, qui a dirigé Google jusqu’en 2011, a déclaré qu’il pensait qu’il était peu probable que l’armée adopte de si tôt des systèmes d’armes entièrement autonomes. Le problème, dit-il, est qu’il est difficile de démontrer comment un algorithme d’IA fonctionnerait dans tous les scénarios possibles, y compris ceux dans lesquels la vie humaine est en jeu.