Dans le cyber-monde, le deepfake et la réalité augmentée (AR) sont devenus extrêmement populaires. Cette technologie a déjà une mauvaise réputation car elle est souvent utilisée pour la manipulation. Mais en fonctionnant en symbiose avec la réalité augmentée, quels profits tirerait-on ? Quelles préoccupations soulèveraient la convergence du deepfake et de l'AR ?
Ces dernières années, les concepts du deepfake et de l'AR sont devenus très populaires. Séparément, ces technologies ont suscité de nombreux débats. L'on se pose de nombreuses questions concernant leurs implications sur notre perception de la réalité et de la vérité. Mais aujourd'hui, ces deux domaines distincts s'enchainent dans un mariage troublant. Et leur combinaison soulève de nouvelles interrogations éthiques et morales. Le deepfake a déjà une mauvaise réputation de semer le trouble. Et son intégration avec l'AR pourrait intensifier encore plus cette confusion. Dans ces quelques lignes, nous découvriront les implications de cette combinaison entre ces deux concepts.
Retour sur le deepfake
Le terme deepfake vient de la combinaison de « deep learning » (signifiant apprentissage profond) et « fake » (signifiant faux). Il s'agit d'une technique de manipulation numérique très avancée. En exploitant l'intelligence artificielle (IA), il est capable de créer ou modifier des images, des vidéos ou des enregistrements audio et donnent l'impression qu'ils sont réels, alors qu'ils sont montés de toutes pièces.
La technique est basée sur des réseaux neuronaux, que l'on appelle les générateurs adverses, ou GAN (Generative Adversarial Networks). Ceux-ci sont formés sur de grandes quantités d'informations pour apprendre à générer des contenus proches du réel et convaincants. Ainsi, à partir de photos, de vidéos ou d'enregistrements existants, ils ont le potentiel d'apprendre les caractéristiques faciales, corporelles ou vocales d'un individu. Ils les appliquent ensuite sur une autre personne.
Mais cette capacité a suscité beaucoup d'inquiétudes. Et pour cause, certains individus se servent du deepfake pour créer des vidéos trompeuses et manipuler l'opinion publique. D'autres même l'exploitent pour monter des vidéos pornographiques non consensuelles, qui mettent en scène des personnes sans leur consentement.
Un des cas de deepfakes les plus populaires
En avril 2018, une vidéo créée par un groupe de chercheurs de l'Université de Washington a été diffusée. Celle-ci met en scène une fausse version de l'ancien président des USA, Barack Obama. L'homme semblait prononcer des discours et des déclarations qu'il n'avait jamais faites.
L'équipe a élaboré cette vidéo de synthèse à partir de la technique de deep learning appelée « Pix2Pix ». Il s'agit notamment d'un transfert des mouvements et des expressions faciales d'un individu réel sur un autre sujet. Très vite, la vidéo a suscité l'attention des médias. Par ailleurs, il a généré des inquiétudes sur les implications potentielles des deepfakes pour la désinformation et la manipulation de l'opinion publique. Depuis lors, ils sont devenus un sujet de préoccupation croissant.
Qu'est-ce que la réalité augmentée ?
Cette technologie superpose des éléments virtuels comme les images ou les vidéos à notre perception de la réalité physique. Grâce à elle, nous voyons donc le monde réel avec des ajouts numériques. Souvent, l'AR fonctionne avec nos smartphones ou des casques plus spécifiques que ceux utilisés pour la réalité virtuelle (VR). Ces dispositifs recourent à des capteurs pour la détection et le suivi de l'environnement réel. Ils affichent ensuite des données virtuelles en temps réel.
L'AR couvre de nombreux cas d'utilisation comme les jeux vidéo, la publicité interactive, la formation, la médecine, l'éducation et l'architecture. Elle est connue pour améliorer la perception de l'environnement réel. En outre, elle a l'avantage de faciliter la visualisation de concepts abstraits ainsi que la collaboration à distance.
Quels seraient les avantages de l'AR combinée au deepfake ?
De nombreux scénarios sont possibles.
Une représentation virtuelle plus réaliste
La fusion du deepfake et de l'AR améliore l'immersion. Le mariage de ces technologies permet aux utilisateurs d'interagir avec des personnages virtuels plus réels et plus expressifs. Le domaine des jeux vidéo et des simulations de formation en tireraient profit.
Des expériences de divertissement améliorées
Le mariage entre l'AR et le deepfake facilite la création des expériences de divertissement immersives et réalistes. En exploitant l'AR, il est possible de projeter les artistes dans des environnements réels, et sous forme d'hologrammes. Intégrer cette technologie dans des environnements cinématographiques permet également aux spectateurs d'interagir avec des personnages ou des objets virtuels.
Le deepfake, quant à lui, permet la recréation des performances de vos stars préférées sur scène, alors qu'elles sont absentes, voire décédées. Il est possible de l'utiliser pour modifier en temps réel le visage d'un chanteur ou d'un acteur.
La personnalisation des médias
Vous avez toujours souhaité personnaliser votre expérience médiatique ? L'association du deepfake et de l'AR vous aiderait à créer des filtres AR pour modifier votre apparence en temps réel, en utilisant la caméra de votre mobile. Il peut s'agir de la personnalisation de votre expression faciale ou de votre coiffure. Et pourquoi pas la superposition d'un visage de l'une de vos stars favorites sur le vôtre grâce à la technique de deepfake ? Lors de la capture de selfies ou de vidéo, cela permettrait une expérience plus immersive et ludique.
Une communication et une téléprésence améliorées
Grâce à la fusion de l'AR et du deepfake, il serait pratique de créer des avatars virtuels réalistes. Et ceux-ci pourraient remplacer les utilisateurs dans les communications en ligne. Cela facilite la téléprésence et les réunions virtuelles. En effet, il donne l'impression aux participants d'être réellement présents dans un environnement partagé.
Un monde beaucoup plus beau ?
Imaginez que vous soyez capable de reproduire une personne et de les placer dans un environnement de votre souhait ? Dans ce scénario, vous pourrez recréer des êtres chers décédés. Vous pourriez ainsi interagir avec eux au-delà de la mort. Et vous n'aurez jamais à vous séparer d'eux.
Quels seraient les dangers et les menaces de la combinaison de l'AR et du deepfake ?
La combinaison de l'AR et du deepfake présente de nombreux dangers et menaces potentiels. Mais les principaux soucis sont la manipulation de l'information, l'atteinte à la vie privée, les escroqueries et les fraudes et l'impact négatif sur le bien-être.
La manipulation de l'information
De nombreux cas de deepfakes ont permis la création de contenus vidéo ou audio truqués mais extrêmement réalistes. Ils ont présenté des personnalités publiques en train de dire des propos qu'ils n'ont jamais dit. Combinés à l'AR, ces types de vidéo pourraient être projetés dans des environnements réels. Ainsi, nous aurions tous du mal à distinguer le réel et le faux. Imaginez comment cela pourrait être utilisé pour la propagation de fausses informations ou même la manipulation d'une élection ou encore un autre scénario dangereux.
L'atteinte à la vie privée
Pour les personnes mal intentionnées, l'AR et le deepfake constitue un outil pour la création de contenus truqués et leur superposition sur des personnes réelles. Cela représente une violation de la vie privée des individus.
Les escroqueries et les fraudes
La fusion de ces technologies pourrait être utilisée pour façonner des simulations visuelles trompeuses. Les individus avec de mauvaises intentions pourraient ainsi nous duper. Ils pourraient se servir de ces techniques pour mettre en place des personnages virtuels qui semblent réels. Et ces derniers pourront ensuite être utilisés pour nous inciter à fournir des données sensibles.
L'impact psychologique et social
La combinaison de l'AR et du deepfake pourrait avoir un impact négatif sur notre bien-être mental et émotionnel. En effet, diffuser des contenus truqués et trompeurs pourrait semer la confusion, la méfiance et la désorientation. Et les conséquences psychologiques sont préjudiciables. Nous ne comptons plus les répercussions sur les relations interpersonnelles et la confiance mutuelle.
Existe-t-il des moyens pour reconnaitre les contenus générés par la combinaison de l'AR et du deepfake ?
On distingue de nombreuses techniques pour identifier les contenus générés avec la combinaison de l'AR et du deepfake. Voici quelques approches possibles.
L'analyse des artefacts
Il est possible de reconnaitre les contenus générés par l'AR et le deepfake, grâce à l'analyse des artefacts. A travers cette solution, vous pourriez remarquer des anomalies visuelles ou des erreurs de rendu. Vous sauriez distinguer les contenus authentiques des contenus générés.
L'analyse du mouvement
Les contenus générés par la combinaison de l'AR et du deepfake peuvent contenir des mouvements irréalistes ou incohérents. A titre d'exemple, on cite les décalages entre les mouvements des personnes et de leur environnement. Cette analyse est réalisée grâce aux techniques de suivi des points clés, d'analyse de la cinématique ou de l'apparence des objets en mouvement.
La comparaison de données
Comparer les contenus générés avec des références authentiques permet de détecter les différences et les anomalies. Il est possible de comparer une vidéo générée avec une vidéo originale en termes de motifs visuels, de variations de luminosité, de textures ou de détails spécifiques. Pour ce faire, il faut recourir à des techniques de correspondance et de similarité.
L'analyse des métadonnées
Les contenus générés présentent parfois des métadonnées qui révèlent des informations sur leur origine. A titre d'illustration, des informations sur le modèle de caméra utilisé, la résolution de l'image, les détails sur les logiciels de montage ou les signatures numériques peuvent être analysées pour détecter des indications de manipulation.
Les méthodes basées sur l'apprentissage automatique
Les techniques d'apprentissage automatique sont pratiques pour détecter les contenus générés par l'AR et le deepfake. Cela implique l'entraînement de modèles d'apprentissage automatique sur des ensembles de données authentiques et générés. Ces modèles ont la capacité de détecter les différences et identifier les contenus manipulés.
Lutter contre les contenus malveillants générés avec le deepfake et l'AR
Dans notre société moderne, la lutte contre les deepfakes combinés à l'AR malveillants est un défi croissant. Parmi les mesures possibles, on compte la sensibilisation et éducation. Il est impératif d'informer le grand public sur son existence et les risques qu'ils présentent. Ainsi, ils sauront les signes révélateurs des deepfakes et prendront des précautions lorsqu'ils interagissent avec du contenu potentiellement falsifié.
Outre cela, les gouvernements peuvent jouer un rôle crucial dans cette lutte. La mise en place des lois et des réglementations dans ce secteur reste essentielle. Cela pourrait inclure des mesures visant à punir les individus ou les organisations qui créent et diffusent des deepfakes dans le but de tromper les gens ou de causer du tort.
Les entreprises technologiques, les chercheurs et les experts en sécurité doivent aussi collaborer pour développer des solutions efficaces contre les deepfakes. Quant aux utilisateurs, ils doivent être encouragés à vérifier attentivement les sources des contenus en ligne et à croiser les informations provenant de différentes sources fiables. La lutte nécessite donc une approche multidimensionnelle impliquant l'éducation, la technologie, la législation et la collaboration entre différents acteurs.
- Partager l'article :
Le coup de cœur de Julie❤️
Julie – Journaliste realite-virtuelle.com
Meta Quest 3, est un casque de réalité virtuelle innovant offrant une expérience immersive sans précédent.