Il sera bientôt possible de créer des animations de personnages en 3D photoréalistes à partir d’une simple vidéo prise sur iPhone. MetaHuman animator, un outil créé par Epic Games, a fait une entrée très remarquée à la Game Developer Conference 2023.
Ce nouvel outil d’Epic Games, qui devrait être en accès libre dès cet été, laisse songeur. MetaHuman animator est un logiciel qui permet de créer des animations 3D très précises et réalistes de personnages. Il pourrait donc bien à l’avenir s’intégrer dans de nombreux projets de jeux vidéo ou de films d’animation. L’entreprise a fait une démonstration en temps réel de l’outil lors de la Game Developer Conference 2023. Vladimir Mastilovic, vice-président de la branche Digital Humans Technology d’Epic Games, a utilisé pour cela les talents de Melina Juergens, l’artiste connue pour avoir incarné le rôle de Senua dans le jeu vidéo Hellblade : Senua’s Sacrifice.
En utilisant un simple iPhone posé sur un trépied, il a capturé sur scène une vidéo de l’actrice d’une quinzaine de secondes. Celle-ci a prononcé quelques phrases associées à différentes expressions faciales, plus ou moins subtiles. Cette vidéo a été transférée sur un ordinateur, et en moins d’une minute, le logiciel s’est révélé capable de créer une animation en trois dimensions très bien calquée sur les expressions de l’actrice. À partir de l’avatar de base, il est même possible d’appliquer d’autres modèles de personnages, dont les particularités s’adaptent automatiquement à l’animation. « Voir les mouvements et les mots de Juergens sortir de la bouche d’un personnage 3D très stylisé, quelques minutes seulement après qu’elle les ait exécutés, était pour le moins frappant », commente le média Ars Technica dans un article.
Le niveau de détail a de quoi impressionner : « de minuscules touches dans la performance de Juergens – des dents dénudées aux minuscules tremblements de la bouche en passant par les regards latéraux – sont toutes incorporées dans l’animation d’une manière qui la rend presque impossible à distinguer de la vidéo originale », souligne Ars Technica. Pour réaliser cette prouesse technique, l’entreprise s’appuie sur de très nombreuses captures faciales détaillées.
Elle les a recueillies au fil des ans, notamment grâce à l’acquisition d’entreprises spécialisées telles que 3Lateral, Cubic Motion et Hyprsense. Toutes les données de ces visages en mouvement ont été traitées pour obtenir une énorme base de données qui permet de répertorier, d’une certaine façon, toutes les façons dont les parties détaillées de différentes morphologies bougent, s’étirent, se distordent en fonction des mouvements. Lorsqu’une vidéo est entrée dans le logiciel, les points clefs des mouvements du visage sont capturés.
Pour faire simple, un algorithme recherche ensuite les mouvements les plus ressemblants dans sa base de données, et ce « puzzle » permet d’obtenir rapidement une version animée très fidèle de la vidéo d’origine. Epic Games a également donné accès à une vidéo qui permet de se faire une idée du rendu final de l’outil dans un jeu vidéo. On y voit un extrait du futur jeu vidéo du studio Ninja Theory, Senua’s Saga: Hellblade II, qui fait suite au premier opus sorti en 2017.
We're pushing the boundaries of realtime facial animation in Senua's Saga: Hellblade II, as showcased at #GDC23 with @UnrealEngine. pic.twitter.com/NOLvRpuC5t
— Ninja Theory (@NinjaTheory) March 22, 2023
Ce logiciel d’animation est une suite logique à l’outil lancé en 2021 par Epic Games : « MetaHuman Creator ». Celui-ci, en accès libre sur simple inscription, permet de créer des personnages photoréalistes extrêmement personnalisés en quelques clics.
Le niveau de détail possible avait déjà fait couler beaucoup d’encre. Quelques boucles d’animations, disponibles directement dans l’éditeur, montrent déjà un aperçu de ce qu’il est possible de faire avec ces avatars. Le nouveau logiciel devrait donc fonctionner de pair avec celui-ci pour permettre aux utilisateurs de donner vie à leurs créations. Cette nouvelle possibilité risque de faire des vagues notamment dans le monde des créateurs de jeux indépendants, qui n’ont pas toujours la possibilité d’avoir de grandes équipes ou du matériel de capture de mouvement coûteux.