Connue pour être à l’origine de la mise sur le marché des pistolets à impulsion électrique « Taser », la société Axon (précédemment Taser International), spécialisée dans les technologies de sécurité publique, a développé un logiciel basé sur l’IA destiné aux forces de l’ordre. Baptisé Draft One, cet outil aide les policiers à rédiger des rapports afin de réduire le temps consacré aux tâches administratives. Si le logiciel se montre efficace selon des essais récemment réalisés, son intégration dans les services de police suscite une part d’inquiétude.
Dans le cadre du travail des policiers, les « récits de rapport » sont des descriptions écrites qui résument les événements survenus lors d’appels de service ou d’incidents dans la communauté. Ces récits sont intégrés dans les rapports de police globaux, qui contiennent les détails des interventions des agents et servent de référence pour le suivi juridique et administratif. La rédaction des rapports est une tâche essentielle, mais souvent fastidieuse, pour les agents de police. La tâche prend environ 40 % de leur temps, soit une quinzaine d’heures par semaine. Afin d’accélérer le travail, l’entreprise Axon a créé un logiciel basé sur l’IA qui automatise la rédaction de rapports.
Les essais menés par Axon montrent que Draft One permet d’économiser environ une heure de travail par jour et par agent. « Notre agence a testé la première version et nous avons constaté une diminution de 82 % du temps passé à rédiger des rapports », a déclaré le sergent Robert Younger, des services de police de Fort Collins dans le Colorado (États-Unis), qui ont également essayé le produit.
Un outil basé sur GPT-4
Ce nouveau logiciel d’Axon est propulsé par le modèle GPT-4 d’OpenAI. Il convertit l’audio capturé par les caméras portées par les policiers en texte de haute qualité. Les brouillons de rapport générés par Draft One sont disponibles très rapidement — dans les cinq minutes suivant la fin de l’incident, selon le communiqué de l’entreprise. Ensuite, chaque rapport doit être personnellement examiné et approuvé par un agent de police afin d’assurer que les informations contenues dans le rapport sont précises et complètes.
Après avoir évalué l’efficacité de son produit, l’entreprise affirme que les rapports générés par Draft One sont aussi bons ou même meilleurs que ceux rédigés uniquement par des agents. Des contenus de meilleure qualité sont bénéfiques pour le système judiciaire, car les informations claires et factuelles permettent de prendre des décisions rapides et justes.
Réduire la charge administrative des agents de police
Draft One vise à augmenter l’efficacité et la productivité des agents de police en allégeant une grande partie de leur travail, notamment la rédaction des rapports. Ils peuvent ainsi se concentrer davantage sur d’autres aspects importants de leur métier.
L’objectif, selon l’entreprise, est donc bel et bien de privilégier les autres activités qui ont un impact direct sur la sécurité publique, comme les enquêtes, les patrouilles, la formation, etc. De plus, avec plus de temps disponible, les agents peuvent renforcer leur présence et leur engagement dans la communauté, ce qui est crucial pour la prévention des crimes et la désescalade des tensions.
Des risques d’erreur ?
La mise en service de cet outil n’a pas manqué de susciter de l’inquiétude. La décision d’adopter une telle technologie au sein des services de police est même jugée d’irréfléchie par certains experts, compte tenu des risques. Parmi les risques, il y a le simple fait que les IA ont parfois tendance à halluciner, c’est-à-dire à générer de fausses informations. Les hallucinations sont d’ailleurs encore fréquentes avec l’IA générative. Elles pourraient conduire à de graves erreurs dans les rapports, ce qui pourrait avoir de graves conséquences légales en menant notamment à des accusations erronées.