La reconnaissance faciale est utilisée par la police dans plusieurs pays. Jugée intrusive et allant à l’encontre des lois de protection de la vie privée, son usage — parfois abusif — est largement controversé. Pour dénoncer cette pratique, mais aussi pour lutter contre les violences policières, des activistes développent leurs propres systèmes de reconnaissance pour identifier les agents de police, qui exercent fréquemment leurs fonctions sous couvert d’anonymat.
Début septembre, le conseil municipal de Portland, dans l’État de l’Oregon, a adopté à l’unanimité une loi interdisant le recours à la reconnaissance faciale pour les services de la ville, mais aussi pour les entreprises privées. Une première aux États-Unis, alors que les affrontements entre les manifestants et les forces de l’ordre sont légion dans cette ville depuis plusieurs mois.
Une pratique qui ne fait pas l’unanimité
Les technologies de reconnaissance faciale sont aujourd’hui utilisées dans de nombreux pays par les forces de l’ordre, mais leur usage est très controversé. Sur 25 États membres de l’Union européenne, l’ONG AlgorithmWatch recense au moins onze pays dont les forces de police utilisent cette technologie. Huit prévoient de l’introduire dans les années à venir. Seuls deux pays, l’Espagne et la Belgique, ne l’envisagent pas encore. Au mois d’août dernier, la justice britannique a cependant jugé illégale cette pratique, l’estimant contraire aux lois sur la protection de la vie privée et pas suffisamment encadrée. Parallèlement, la pétition initiée par le mouvement Ban-Facial-Recognition.EU a recueilli à ce jour plus de 18’000 signatures.
Au mois de juin, deux sénateurs américains, Ed Markey et Jeff Merkley, prennent clairement position sur le sujet : ils proposent que la technologie de reconnaissance faciale et d’autres formes de surveillance biométrique demeurent hors des mains des forces de l’ordre. Un projet de loi ambitieux, qui vise à freiner la dépendance excessive et le recours abusif des forces de l’ordre à des algorithmes de surveillance défectueux. « La technologie de reconnaissance faciale ne constitue pas seulement une menace grave pour notre vie privée, elle met physiquement en danger les noirs américains et d’autres populations minoritaires de notre pays », a déclaré Markey.
Cet été, suite à la mort de George Floyd, la ville de Portland comme tant d’autres fut le siège de plusieurs semaines de tension et de manifestations contre les violences policières. Le chef de la police, qui n’est plus en poste aujourd’hui, avait alors autorisé ses agents à dissimuler leurs badges nominatifs, accrochés à leurs uniformes, avec du ruban adhésif sur lequel était inscrit leur matricule. Une directive inadéquate qui, du point de vue des défenseurs des droits civils, allait à l’encontre de la responsabilité de la police. D’autant que de nombreux manifestants ont signalé des actes de violence par des policiers, qu’ils n’avaient plus aucun moyen d’identifier.
Face à cette nouvelle pratique, un nombre croissant d’activistes développent des outils de reconnaissance faciale pour identifier les policiers. Pour les militants, inverser les rôles de la sorte est aussi une manière de dénoncer l’utilisation abusive de cette technologie qu’ils jugent particulièrement invasive. L’un d’entre eux, Christopher Howell, programmeur autodidacte, a ainsi développé un outil de reconnaissance pour identifier les policiers de Portland qui cachent leur nom.
C’est parce qu’il a lui-même subi une forme de violence lors des manifestations de juin qu’il a commencé à réfléchir à ce projet. Le développement de tels outils est devenu relativement simple, grâce à un logiciel de reconnaissance d’image standard mis à disposition ces dernières années. Pour créer son algorithme, Howell a ainsi utilisé la plateforme TensorFlow, développée par Google. La vraie difficulté réside surtout dans la phase d’apprentissage : il faut trouver suffisamment d’images de bonne qualité de la police locale pour entraîner l’algorithme. Les articles de presse publiés sur le Web et les réseaux sociaux se sont avérés ici d’une grande aide. Howell a ainsi pu rassembler des milliers d’images et son réseau neuronal est capable de reconnaître désormais près de 20% des forces de l’ordre de Portland.
L’arroseur arrosé
Sa technologie n’est pas encore accessible au public, Howell continue d’y travailler. Mais son programme aurait déjà permis d’identifier avec succès un agent de police avec lequel l’un de ses amis aurait eu des démêlés. La ville de Portland ayant tout récemment interdit formellement l’utilisation de la reconnaissance faciale par les organismes publics et les entreprises, Howell s’est interrogé sur la légitimité de sa technologie. Le maire de Portland, Ted Wheeler, a répondu que son projet était certes « un peu effrayant », mais un avocat de la ville a précisé que cette loi ne s’applique pas aux particuliers. Il peut donc a priori continuer à travailler sur son projet.
À noter que des initiatives similaires s’observent en dehors des États-Unis : l’an dernier, à Hong Kong, pendant les manifestations contre l’amendement de la loi d’extradition, un activiste nommé Colin Cheung a également utilisé des photos de policiers extraites du Web pour construire un système capable de les identifier. Mais une fois son effort rendu public, il a été arrêté, puis a décidé d’abandonner son projet.
Plus tôt ce mois-ci, Paolo Cirio, un artiste et activiste italien, fervent défenseur de la vie privée sur Internet, a collé dans les rues de Paris des centaines d’affiches de visages de policiers, qu’il avait récupérés sur le Web. Pour sa performance artistique, nommée « Capture », Cirio a créé une base de données contenant 4000 visages de policiers français pour les identifier avec une technologie de reconnaissance faciale. Suite aux réactions du ministre de l’Intérieur et des syndicats dénonçant la mise en danger des policiers, ainsi qu’aux menaces de poursuites judiciaires, l’artiste a préféré retirer les photos de son site.
Les manifestations contre le président biélorusse Alexandre Loukachenko, ont elles aussi été — et sont toujours — le théâtre d’arrestations violentes. Andrew Maximov, fondateur de Promethean AI — une technologie à base d’intelligence artificielle utilisée pour la conception de jeux vidéos — d’origine biélorusse et maintenant basé à Los Angeles, a publié sur YouTube une vidéo expliquant comment la technologie de reconnaissance faciale pouvait être utilisée pour ôter numériquement les cagoules portées par les policiers. Cette vidéo totalise plus d’un million de vues à ce jour :
Là encore, le logiciel exploite les visages des agents glanés sur les réseaux sociaux. Pour Maximov, l’heure de la revanche a sonné : « Pendant un certain temps, tout le monde savait que les grands pouvaient utiliser [cette technologie] pour identifier et opprimer les petits, mais nous approchons maintenant du seuil technologique où les petits peuvent [faire de même] aux grands », se réjouit-il.