À retenir
- Les deepfakes sont importants parce que la génération d’images et de vidéos peut maintenant modifier la confiance, l’identité et les preuves, et non seulement le divertissement.
- L’idée technique repose sur le transfert de motifs : les modèles apprennent suffisamment les visages, les mouvements et les styles pour synthétiser du contenu convaincant.
- La détection évolue sans cesse. Une utilisation responsable exige donc à la fois la provenance, l’éducation aux médias, des règles de plateformes et des vérifications techniques.
Regardez la vidéo et soutenez-moi sur YouTube !
On dirait que cette technologie a toujours existé, mais les deepfakes sont apparus pour la première fois en 2018, il y a seulement deux ans !
Depuis, ils ont évolué d’une façon que personne n’aurait pu imaginer. Comme vous pouvez le voir, on peut facilement créer une vidéo qui semble réelle alors que la personne n’était même pas là ! La réalité, c’est que nous ne pouvons plus croire tout ce que nous voyons, et les deepfakes y jouent un grand rôle.
Image de DeepFaceLab, https://github.com/iperov/DeepFaceLab
En fait, la technologie des deepfakes permet littéralement de mettre des mots dans la bouche de n’importe qui tout en créant une fausse vidéo de la personne qui les prononce.
C’est à la fois une formidable nouvelle technologie et un outil dangereux.
Qu’est-ce qu’un deepfake et comment fonctionne-t-il ?
Un deepfake est un contenu synthétique dans lequel l’identité d’une personne présente dans une image ou une vidéo est remplacée par celle de quelqu’un d’autre. Il peut s’agir de sa voix, de son visage ou même des deux.
Les deepfakes utilisent des algorithmes d’apprentissage automatique pour manipuler ou générer le contenu visuel et/ou audio de ces vidéos afin d’imiter la voix et/ou le visage de quelqu’un d’autre.
Grâce aux progrès des GPU au cours des dernières années, les chercheurs ont pu créer des techniques d’apprentissage profond qui rendent ces applications possibles, comme les autoencodeurs et les GAN. Je les ai déjà présentés dans des vidéos précédentes si vous souhaitez en apprendre davantage sur ces frameworks d’apprentissage automatique.
Vous vous demandez peut-être maintenant : comment fonctionnent-ils ?
Eh bien, la réponse n’est pas si simple. Les applications de deepfakes fonctionnent de nombreuses façons différentes. Comme dans ce GIF, certaines tentent d’associer le visage d’une personne cible à une vidéo donnée, par exemple en plaçant le visage d’Elon Musk sur la vidéo d’un bébé qui joue.
Montage deepfake du bébé Elon Musk : https://www.youtube.com/watch?v=WHwQeetjLwk&ab_channel=TheFakening
Comment les deepfakes sont créés
Image tirée de https://www.alanzucconi.com/2018/03/14/understanding-the-technology-behind-deepfakes/
Comme la plupart des applications récentes fondées sur l’IA, cette technologie utilise des architectures de réseaux neuronaux profonds pour atteindre son objectif. Comme je l’ai dit, elle emploie des autoencodeurs combinés à des GAN, qui sont particulièrement efficaces pour des applications de vision par ordinateur comme celle-ci.
L’architecture comprend un encodeur, qui réduit une image dans un espace latent de plus faible dimension, et un décodeur, qui reconstruit l’image à partir de cette représentation latente.
L’encodeur sert à représenter dans l’espace latent la personne que nous voulons imiter. Cet espace contient ensuite les principales caractéristiques de son visage et de sa posture afin de reproduire les mouvements de son visage et de son corps.
Image tirée de https://www.slideshare.net/IanMcCarthy/deepfakes-trick-or-treat
Un modèle entraîné spécialement pour la vidéo cible sert ensuite à décoder cet espace latent. Les renseignements détaillés de la cible sont donc superposés aux caractéristiques sous-jacentes du visage et du corps dans la vidéo originale, représentées dans l’espace latent précédemment encodé.
Les GAN peuvent être combinés à ces autoencodeurs pour améliorer les résultats de l’algorithme. Cela permet au deepfake d’évoluer constamment et de devenir de plus en plus réaliste.
Créez votre propre deepfake
Heureusement pour nous, de nombreux outils en ligne permettent de produire des deepfakes.
DeepFaceLab : https://github.com/iperov/DeepFaceLab
DeepFaceLab est entièrement gratuit, son code est accessible au public et de nombreuses ressources vous permettent d’entraîner votre propre deepfake avec vos images et vos vidéos. Son code permet d’accomplir beaucoup de choses, comme remplacer un visage dans une photo ou une vidéo, remplacer une tête complète et même manipuler la voix d’une personne précise.
Consultez leur dépôt GitHub pour obtenir plus d’information. Tout y est clairement expliqué, et vous pouvez même exécuter le code directement dans Google Colab si vous n’avez pas la puissance de calcul nécessaire pour entraîner un réseau aussi imposant sur votre propre ordinateur. Ils ont aussi partagé un tutoriel vidéo complet pour vous aider à créer vos propres deepfakes !
DeepFaceLab : https://github.com/iperov/DeepFaceLab
Bien sûr, toutes les ressources mentionnées ici sont entièrement gratuites. Vous devriez vraiment les essayer si les deepfakes vous intéressent !
DeepFaceLab : https://github.com/iperov/DeepFaceLab
Si vous aimez mon travail et voulez rester au courant des nouveautés en IA, assurez-vous de me suivre sur mes autres réseaux sociaux, comme LinkedIn et Twitter, et abonnez-vous à mon infolettre hebdomadaire sur l’IA !
Pour me soutenir :
- La meilleure façon de me soutenir est de me suivre ici sur Medium ou de vous abonner à ma chaîne YouTube si vous aimez le format vidéo.
- Soutenez mon travail sur Patreon
- Joignez-vous à notre communauté Discord : Learn AI Together et partagez vos projets, vos articles scientifiques et les meilleures formations, trouvez des coéquipiers pour Kaggle et bien plus encore !
Conclusion
Comme je l’ai dit, il s’agit à la fois d’une formidable nouvelle technologie et d’un outil dangereux. S’il vous plaît, n’en abusez pas et utilisez-la de façon éthique. L’objectif est d’aider à améliorer cette technologie, et non de l’employer pour de mauvaises raisons. De plus, il existe de nombreuses techniques pour détecter les deepfakes, qui feront l’objet d’une toute autre vidéo.
FAQ
Qu’est-ce qu’un deepfake ?
Un deepfake est un contenu synthétique ou retouché qui utilise l’IA pour modifier un visage, une voix, une identité ou une action d’une façon qui peut sembler réelle.
Comment les deepfakes fonctionnent-ils ?
La plupart des systèmes apprennent des motifs visuels ou audio à partir de données, puis génèrent ou transforment du contenu pour que le résultat corresponde à une identité ou à un style cible.
Pourquoi les deepfakes sont-ils risqués ?
Ils peuvent servir à commettre des fraudes, à usurper une identité, à harceler, à désinformer et à fabriquer de fausses preuves, surtout lorsque les gens voient le contenu sans contexte.
Les deepfakes peuvent-ils être utiles ?
Oui. Ils peuvent faciliter le doublage, l’accessibilité, la production créative, l’éducation et la restauration, mais seulement si le consentement et la divulgation sont bien gérés.
Comment peut-on vérifier un contenu synthétique douteux ?
Cherchez sa provenance, des détails incohérents, des mouvements ou un éclairage étranges, le contexte manquant, les correspondances trouvées par recherche d’image inversée et la confirmation de sources fiables.