Alors que les lois se forment et s’ajustent dans le but de réguler l’utilisation de drones privés et militaires, une nouvelle vient jeter de l’huile sur le feu. Selon un rapport des Nations unies qui vient d’être rendu public, des drones militaires auraient attaqué des humains de façon entièrement autonome l’année dernière. La toute première fois qu’une telle opération est rapportée. Une application technologique que nous ne pouvions jusqu’ici qu’imaginer ou voir dans des oeuvres de science-fiction…
L’incident, qui implique un quadcoptère Kargu-2 produit par STM (une entreprise turque) équipé d’une charge explosive, s’est déroulé en Libye. L’engin peut être piloté manuellement, mais en mode autonome, ses caméras embarquées dotées d’une intelligence artificielle lui permettent de trouver et identifier des cibles. Il peut alors attaquer en se dirigeant vers la cible avant d’activer l’explosif. STM affirme que le robot est doté d’un système sophistiqué de reconnaissance des objets et des visages. Cependant, l’entreprise n’a pas répondu aux demandes de commentaire.
Bien que tous les détails de l’incident n’aient pas été divulgués et que l’on ne sache pas s’il y a eu des victimes, l’événement suggère que les efforts internationaux visant à interdire les armes autonomes létales avant qu’elles ne soient utilisées pourraient déjà arriver trop tard.
Traqués et attaqués par des drones autonomes « kamikazes »
Les informations concernant cette potentielle attaque sont disponibles dans un rapport du groupe d’experts du Conseil de sécurité des Nations unies sur la Libye, publié en mars 2021. Il décrit en détail un conflit de guerre civile survenu en mars 2020 entre les forces alliées au gouvernement libyen (GNA), qui a depuis été dissous, et celles affiliées à Khalifa Haftar, commandant de l’armée nationale libyenne.
Le rapport indique que les forces de Haftar en retraite ont été « traquées » par des drones Kargu-2 fonctionnant de manière autonome, qui ont été « très efficaces ». « Les systèmes d’armes autonomes létaux étaient programmés pour attaquer des cibles sans nécessiter de connexion de données entre l’opérateur et l’arme : une véritable capacité de ‘tirer, oublier et trouver’ », note le rapport. En d’autres termes, les drones étaient capables de chercher et d’attaquer des cibles sans qu’un humain soit dans la boucle.
Les experts précisent dans leur rapport que ces informations proviennent d’une source confidentielle et ont refusé de divulguer plus de détails. Zak Kallenborn, du National Consortium for the Study of Terrorism and Responses to Terrorism dans le Maryland, affirme que c’est la première fois que des drones autonomes ont trouvé et attaqué des humains. Les discussions de l’ONU sur la limitation de ces armes autonomes mortelles ont été retardées à plusieurs reprises et ces armes ne sont pas actuellement limitées, de nombreuses nations s’opposant à une interdiction pure et simple.
Une technologie fragile et trop jeune
Kallenborn se dit préoccupé par la dépendance du drone Kargu-2 à l’égard de la vision artificielle. « Quelle est la fragilité du système de reconnaissance des objets ? Et à quelle fréquence identifie-t-il mal les cibles ? ». Bien qu’il n’y ait pas d’informations publiques sur l’IA du drone, des chercheurs ont précédemment constaté que les algorithmes généraux de vision artificielle peuvent être trompés, et même assez facilement selon les circonstances.
Arthur Holland, de l’Institut des Nations unies pour la recherche sur le désarmement à Genève, en Suisse, a également exprimé des inquiétudes. « La question de savoir si un tel système pourrait exécuter de telles fonctions de manière fiable et avec un haut degré de précision dans des conditions complexes et dynamiques est totalement ouverte », dit-il.
Jack Watling, du Royal United Services Institute, un groupe de réflexion britannique sur la défense, se demande si les drones Kargu-2 étaient réellement en mode autonome, car seuls leurs opérateurs en seraient certains. Cela met en évidence un problème de restrictions juridiques : contrairement aux armes chimiques ou aux mines terrestres, les armes autonomes ne peuvent pas être facilement distinguées des armes contrôlées par un opérateur. « Cela ne signifie pas que les armes autonomes seraient impossibles à réglementer », déclare Holland. « Mais cela montre que le débat reste urgent et important. La technologie ne va pas nous attendre ».
Vidéo de démonstration d’une attaque du drone KARGU, avec éjection de projectiles :