Des discours « fake » de Poutine et Kim Jong-un à base d’IA pour avertir les Américains

deepfake elections americains intelligence artificielle
| RepresentUs

Les élections américaines auront lieu le 3 novembre. Après un débat plutôt « chaotique » entre les deux candidats, Joe Biden et Donald Trump, qui se sont fait face pour la première fois ce mardi, les Américains sont dans l’expectative. Le groupe RepresentUs, une organisation non partisane à but non lucratif qui prône l’American Anti-corruption Act, a décidé d’intervenir d’une manière tout à fait originale, en réalisant de fausses campagnes publicitaires politiques.

Les deux vidéos « deepfake » ainsi réalisées n’ont pas pour but de perturber les élections, mais de les sauver. Elles ont été diffusées au début de la semaine sur les réseaux sociaux ; l’une est basée sur une version deepfake du président russe Vladimir Poutine, l’autre contient une version deepfake du dirigeant nord-coréen Kim Jong-un. Pour les deux, le message est le même : l’Amérique n’a besoin d’aucune ingérence électorale de leur part, car le peuple ruinera sa démocratie par lui-même.

Objectif : sauver la démocratie

Le deepfake — un mot-valise formé à partir des termes deep learning et fake — est une technique de synthèse d’images basée sur l’intelligence artificielle. Le principe est de superposer des fichiers audio et vidéo existants sur d’autres vidéos. Si ces vidéos truquées peuvent être utilisées pour créer un effet comique, elles sont aussi malheureusement massivement exploitées dans le but de nuire à quelqu’un (calomnie, revenge porn) ou pour faire circuler de fausses informations. De nombreuses célébrités ont déjà été la cible de ces hypertrucages.

« Democracy is a fragile thing, more fragile that you want to believe. If the election fails, there is no democracy », voilà les premiers mots prononcés par le faux Kim Jong-un. Dans cette courte intervention, il fait passer le même message que dans la version Poutine : ils n’ont pas à intervenir d’aucune manière dans ces élections, car le peuple américain court de lui-même à sa perte.

À LIRE AUSSI :
Des capteurs directement imprimables sur la peau

Les vidéos ultra réalistes des deux dirigeants peuvent être effrayantes, mais elles ont été créées pour une bonne cause. Fondée en 2012, l’organisation RepresentUs se bat contre la corruption des politiques. L’American Anti-Corruption Act est un modèle de loi conçu pour limiter l’influence de l’argent dans la politique américaine en révisant les lois sur le lobbying, la transparence et le financement des campagnes. Ainsi, à travers ces faux discours, l’organisation RepresentUs, a pour but de protéger les droits de vote de la population, tandis que Trump n’a de cesse de semer la confusion sur le déroulement des prochaines élections.

Après avoir officiellement dénigré le vote par correspondance — particulièrement préconisé cette année en raison du contexte sanitaire —, l’actuel président américain a tout bonnement déclaré via son compte Twitter que le résultat de l’élection « ne sera jamais déterminé avec précision », puis a suggéré aux Américains de voter deux fois ! Les sondages ne lui étant pas favorables à ce jour, Trump estime que le vote par correspondance est une source de fraudes potentielles. Quelques jours plus tard, il provoque un nouveau tollé en déclarant qu’il refusait de s’engager à une transition pacifique du pouvoir en cas de défaite.

Cliquez ici pour supprimer les publicités.

Dans ce contexte relativement tendu, RepresentUs veut faire comprendre aux Américains que la démocratie est fragile et qu’il ne tient qu’à eux de la préserver. « Democracy lives or dies with you », voilà le slogan percutant que l’on peut lire à la fin des deux médias.

Des campagnes réalisées en un temps record

Les experts craignent souvent que des deepfakes politiques ne soient utilisés abusivement lors des campagnes, pour semer la confusion chez les électeurs et perturber les élections. RepresentUs retourne la situation en exploitant cette technologie à bon escient ; le groupe espère marquer les esprits et inciter la population à prendre les mesures qui s’imposent, y compris la vérification de leur inscription électorale.

À LIRE AUSSI :
Une nouvelle prothèse de main biomimétique aux capacités proches de la main humaine

Pour réaliser ces deux vidéos, RepresentUs a travaillé avec l’agence de création Mischief at No Fixed Address, qui a eu l’idée d’utiliser des dictateurs pour transmettre le message. L’équipe a tout d’abord filmé deux acteurs avec la bonne forme de visage et des accents authentiques pour réciter le texte. Ils ont ensuite travaillé avec un artiste spécialiste du deepfake, qui a utilisé un algorithme open source pour introduire les visages de Valdimir Poutine et Kim Jong-un. Une équipe de postproduction a finalement nettoyé les artefacts restants pour rendre la vidéo encore plus réaliste. Le résultat est effectivement bluffant, comme on peut le voir dans cette seconde vidéo avec Vladimir Poutine :

Au total, le processus n’a pris qu’une dizaine de jours. Selon l’équipe, tenter l’équivalent avec des effets spéciaux numériques — à base de programmes d’animation et d’images de synthèse, tels que ceux utilisés au cinéma — aurait probablement pris plusieurs mois. En outre, le coût de l’opération aurait très certainement été prohibitif.

Sur le même sujet : Sur Twitter, les fake news sont le plus souvent relayées par les conservateurs

Ces films publicitaires auraient dû être diffusés sur les chaînes Fox, CNN et MSNBC dans leurs éditions de Washington D.C., mais les stations ont finalement empêché leur diffusion à la dernière minute. Un porte-parole de la campagne a déclaré qu’ils attendaient toujours une explication à ce revirement. À noter que les vidéos incluent une clause de non-responsabilité à la fin, indiquant « This footage is not real, but the threat is. » (« Les images ne sont pas réelles, mais la menace l’est »).

À LIRE AUSSI :
COVID : Une ville brésilienne aurait atteint l'immunité collective, mais en a payé le prix fort

L’utilisation des deepfakes étant quelque peu sensible — surtout dans le contexte politique actuel —, il est possible que les dirigeants des réseaux de diffusion aient estimé que le public américain n’était tout simplement pas prêt pour ce genre de prise de conscience…

Source : MIT Technology Review

Plus d'articles
services messagerie populairespeu surs compromettent donnees personnelles
Les services de messagerie populaires sont extrêmement peu sûrs et compromettent vos données personnelles