Le débat autour de la pratique des " deepfakes ", ces trucages audio ou vidéo destinés à induire la victime en erreur, n'a rien de nouveau. Mais ce qui l'est un peu plus c'est que la technologie a progressé bien plus vite que beaucoup ne l'avaient prévu et a donné naissance à une pratique dont le potentiel de nuisance est terrifiant.
Bien sûr, voir le visage expressif de Jim Carrey sur le corps d’Allison Brie est très drôle. Mais les implications d’une telle technologie à la disposition des escrocs en tout genre ne donnent, elles, pas vraiment matière à sourire.
Prenons par exemple le récent deepfake utilisant le visage de Vladimir Poutine sur le corps de Gideon Lichfield, le rédacteur en chef de la revue MIT Technology Review.
Bien qu’il ne soit pas très difficile de comprendre que Vladimir Poutine n’a jamais été interviewé dans ce cadre, le résultat est visuellement convaincant. Et il ne faut pas pousser très loin l’imagination pour réaliser combien un tel outil peut faire des dégâts aux mains des pirates et des escrocs.
Voici donc cinq conseils utiles pour faire la différence entre un deepfake et la réalité :
1. Notez les différences de résolution et de qualité entre les éléments du visage et le reste de la vidéo. Les sources sont souvent de meilleure qualité que les vidéos de destination, ce qui conduit à des visages étrangement haute définition sur des corps et des arrière-plans de moindre définition. Cela est particulièrement évident dans la démo de Steve Buscemi/Jennifer Lawrence qui est devenue virale. Notez le flou du fond des Golden Globe Awards par rapport au visage précis de Steve Buscemi.
2. Surveillez les images où le visage est obscurci ou à un angle aigu. Cela entraîne souvent des artefacts plus flous ou des mouvements incohérents, ce qui est souvent révélateur d’un deepfake. Un bon exemple de cela est celui qui met en scène Jim Carrey en Jack Nicholson dans The Shining. Le mouvement incohérent est particulièrement visible lors de la célèbre phrase « Here's Johnny ! »
3. Méfiez-vous des visages à une échelle incohérente. Les deepfakes avec plusieurs angles de caméra peuvent avoir à changer l’échelle ou la forme du visage pour que l’ensemble reste crédible. Cela se traduira alors par des visages présentés à des échelles différentes d’un plan à l’autre de la vidéo. Pour une bonne démonstration de ce problème, regardez le deepfake de Sylvester Stallone dans Terminator 2.
4. Surveillez les éléments de bordure incohérents. Les éléments du visage situés sur la bordure (menton, sourcils, pommettes, poils du visage, taches de rousseur et autres marques de naissance) peuvent alterner entre l’original et le remplacement. Toute incohérence à cet endroit est le signe d’un faux. Par exemple, regardez ce deepfake de Bill Hader et Tom Cruise. C’est très bien fait, mais les pommettes et le contour de la mâchoire rendent l’ensemble incohérent.
5. Faites attention aux tons de peau incohérents ou un peu trop « chatoyants ». Il est difficile de faire correspondre le teint et les mouvements du visage, en particulier à la frontière entre les deux, et cela donne rapidement un effet de profondeur. La récente vidéo de Jim Carrey/Alison Brie illustre bien les problèmes liés au chatoiement de la peau.
Même si ces techniques de détection ne durent pas - les créateurs vont certainement progresser et s’attacher justement à gommer ces défauts - cela reste malgré tout des exemples utiles pour s’entraîner à flairer les manipulations numériques. Car les deepfakes vont s’améliorer au fil du temps et devenir plus communs. Il est donc important de commencer dès à présent à développer un état d’esprit critique vis-à-vis de l’image. Car aujourd’hui encore plus qu’hier, faire aveuglément confiance à l’image est dangereux.