Deepfake : comprendre ce que c'est, comment l'identifier et quels risques il présente

Deepfake est le nom donné à la technique qui permet de recréer l'apparence ou la voix humaine à l'aide de l'intelligence artificielle. Grâce à la technologie, il est possible de simuler des gens qui parlent ou agissent d'une manière qu'ils n'auraient jamais fait.

Le mot serait une combinaison des termes deep learning (une branche du machine learning ou machine learning, en portugais) et fake (faux). Le concept aurait vu le jour en 2022, en référence à un utilisateur de Reddit avec le surnom de deepfakes.

Il aurait utilisé une technologie d'apprentissage en profondeur pour superposer les visages de célébrités et de personnes dans des films pornographiques. Depuis, la méthode est devenue de plus en plus réaliste et accessible.

a préparé un guide pour vous permettre de mieux comprendre ce qu'est et comment fonctionne la fonction d'édition qui domine Internet. Découvrez également les risques offerts et comment vous protéger.

Comment fonctionne le deepfake ?

Pour créer une vidéo deepfake, deux algorithmes d'intelligence artificielle concurrents, appelés générateur et discriminateur, sont utilisés. Selon le site Whatis.com, la fonction du premier est de créer de fausses vidéos et, du second, de les identifier comme réelles ou non.

Lorsque le discriminateur trouve un faux contenu, le générateur apprend ce qu'il ne faut pas faire. Et ainsi, vous créerez la prochaine vidéo de manière améliorée. Lorsqu'ils agissent ensemble, le générateur et le discriminateur génèrent ce que l'on appelle le réseau antagoniste génératif (GAN).

Comment créer une vidéo deepfake ?

Vous ne croirez pas ce qu'Obama dit dans cette vidéo ! 😉

Pour monter un film du genre il faut avoir une vidéo source, de préférence la plus simple possible. Par conséquent, des discours politiques sont souvent utilisés, dans lesquels l'arrière-plan est neutre et où des mouvements de tête sont essentiellement effectués.

Vous devez donc combiner deux ensembles de données. Si le personnage de la vidéo tourne la tête vers la gauche et ouvre la bouche, il faut avoir des images de qui le remplacera dans les mêmes positions. Cela peut nécessiter une vaste banque d'images.

Ensuite, c'est au programme basé sur l'intelligence artificielle de faire le travail. Après de nombreux essais, erreurs et succès, le réseau contradictoire génératif incorporera un visage dans l'autre aussi précisément que possible.

La vidéo ci-dessus est l'une des plus célèbres de deepfake. Les mouvements et la voix de l'ancien président américain Barack Obama y sont superposés à ceux de l'humoriste Jordan Peele.

Quels sont les risques du deepfake ?

Malgré son apparence inoffensive, le deepfake est controversé depuis son apparition en 2022 sur Reddit. La technique était largement utilisée pour superposer les visages des actrices et des personnes dans les vidéos pornographiques.

Au fur et à mesure qu'elle se développe, la technique devient plus réaliste et les contenus finissent par devenir viraux comme s'ils étaient réels. C'est l'un des grands dangers de la ressource : la diffusion de faux contenus comme authentiques.

En 2022, Facebook s'est retrouvé impliqué dans un scandale suite à la fuite de données d'utilisateurs par une société d'applications tierce. Peu de temps après, une vidéo de Mark Zuckerberg est devenue virale et a inquiété beaucoup de monde.

Dans le court métrage, le PDG de Facebook insinue qu'il contrôle l'avenir en ayant le domaine de milliards de données. Le contenu n'était rien de plus qu'un produit deepfake créé par Bill Poster pour la société Spectre.

Voir ce post sur Instagram

Une publication partagée par Bill Posters (@bill_posters_uk) le 13 juin 2022 à 5h18 PDT

Un autre problème prévu est la perte de crédibilité de tout type de matériel publié sur Internet. La technologie rend de plus en plus difficile l'identification et le filtrage du type de nouvelles qui sont vraies ou simplement créées par l'ordinateur. Ce que vos yeux et vos oreilles voient et entendent n'est peut-être rien de plus qu'un produit logiciel.

Avec la vulgarisation des programmes qui permettent aux profanes de créer des vidéos du genre, il est possible que le commun des mortels soit aussi de plus en plus la cible de ce type de montage.

Les résultats peuvent aller de la simulation de la participation à des films pour adultes à la création de fausses preuves contre quelqu'un.

Comme il s'agit d'un phénomène récent, les gouvernements n'ont toujours pas de lois spécifiques pour lutter contre les crimes liés au deepfake. Au Royaume-Uni, le producteur d'un tel contenu peut être mis en examen pour harcèlement.

Aux États-Unis, les accusations peuvent aller du vol d'identité, du cyber-harcèlement et du revenge porn. Dans notre pays, il n'existe toujours pas de réglementation spécifique sur le sujet.

Comment identifier un deepfake ?

Malgré l'évolution de la technique, la plupart des deepfakes amateurs sont encore identifiables à l'œil nu. Dans ces cas, il est possible d'identifier un manque de naturel dans le clignement des yeux, le mouvement des lèvres ou la présence d'ombres aux mauvais endroits.

Pourtant, l'inquiétude face à l'avenir est réelle. Aux États-Unis, la Defense Advanced Research Projects Agency (DARPA) investit déjà dans des moyens de mieux identifier les vidéos.

Pour l'instant, la meilleure mesure est de toujours être attentif à ce que vous recevez et d'être conscient des sources de partage.

Qu'est-ce que ZAO ?

Annoncée en septembre 2022 sur l'App Store chinois, l'appli Zao fait l'actualité dans le monde entier. Le programme est devenu viral pour avoir pris des smartphones pour créer des deepfakes à partir d'une photo en seulement 8 secondes.

Le résultat frôle la perfection et a été partagé sur Twitter par l'utilisateur @AllanXia. Le visage de l'acteur Leonardo DiCaprio a été remplacé par le sien dans plusieurs scènes et l'expressivité est impressionnante.

Le lancement de l'application a rouvert le débat sur la technologie et la vie privée. D'abord parce que, selon les conditions d'utilisation du programme, en l'utilisant, vous donneriez à l'entreprise le droit d'utiliser vos données et visages à des fins commerciales de manière gratuite et irrévocable.

Après de nombreuses plaintes, l'entreprise responsable a changé le terme. Désormais, il précise que le contenu ne sera utilisé par les développeurs que dans le but d'améliorer l'application et la technologie utilisée.

Un autre problème inquiétant est le fait que l'application rend encore plus simple la création de superpositions avec les images de n'importe qui. Et avec un réalisme croissant. Cela pourrait permettre aux victimes de fausses vidéos d'être plus facilement considérées comme réelles.

Applications deepfake Outros

Mais ce n'est pas la première fois que les émissions de deepfake deviennent virales. Le premier d'entre eux était le FakeApp, sorti en janvier 2022 pour ordinateur. Il vous a permis de créer et de partager des vidéos avec des visages remplacés avec une relative facilité.

La principale difficulté était de rassembler une grande quantité de matériel visuel auprès de la personne qui serait insérée, afin que le résultat soit satisfaisant. Actuellement, il n'est plus possible de trouver le programme disponible.

recommande :

• Comment savoir si un site Web est sûr et fiable pour acheter en ligne
• Applications super amusantes pour changer de voix