Les deepfakes pornographiques consistent à truquer des vidéos X en y insérant le visage d’une victime. Une technique de cyber-violence qui touche en grande majorité les femmes.
Dans The Mandalorian, un deepfake a été créé pour faire apparaître une version juvénile de Luke Skywalker. Mais cette technique de synthèse mobilisant l’IA est également utilisée à des fins malveillantes. Les deepfakes pornographiques consistent notamment à superposer le visage d’une femme sur le corps d’une actrice X en pleine action. Les agresseurs aux manettes les utilisent pour se venger (revenge porn) et/ou pour assouvir leurs fantasmes lubriques.
C’est ce qui est arrivé à l’activiste Noelle Martin alors qu’elle n’avait que 17 ans. En faisant une recherche d’image inversée sur Google, son écran a été inondé d’images pornographique où son visage apparaissait. ” [Quelqu’un] avait ajouté mon visage sur les corps d’actrices adultes nues participant à des rapports sexuels”, raconte-t-elle à Dazed. De son côté, la journaliste indienne Rana Ayyub a été ciblée par une campagne de deepfakes X après avoir médiatisé le viol d’une fillette de 8 ans et affirmé que l’Inde protégeait les agresseurs sexuels.
À lire > Deepfake : une mère crée des photos nues et équivoques des pom-poms girls rivales de sa fille
Les deepfakes porno peuvent être générés en quelques clics
Cette forme inquiétante de cyber-violence se répand à cause de la multiplication d’applications et de sites permettant de créer facilement des deepfakes réalistes. Car ces derniers ne sont plus l’apanage des as de l’informatique. En quelques clics, des individus malveillants peuvent ainsi obtenir des vidéos ou des images pornographiques impliquant une victime à son insu. Signalées massivement et supprimées dans la foulée, ces plateformes sont toutefois recréées indéfiniment.
Et parmi les victimes, on retrouve majoritairement des femmes, près de 90 % d’après une étude réalisée en 2019. Interrogée par Marie Claire, l’animatrice Énora Malagré raconte ainsi avoir été victime de deepfakes porno. Son visage est notamment apparu dans 300 films X. Un véritable traumatisme pour la chroniqueuse qui confie avoir contacté les sites concernés afin qu’ils retirent les vidéos. Elle a également porté plainte contre X, confiant toutefois que le temps judiciaire s’écoulait plus lentement “que celui des agresseurs, qui changent rapidement d’adresses IP”.
À lire > Facebook peut identifier les images « deepfake » et retrouver leurs créateurs
Malgré leur suppression, les contenus incriminés risquent de réapparaître indéfiniment, des internautes n’hésitant pas à les remettre en ligne après les avoir téléchargés. C’est tout le problème d’Internet qui n’oublie jamais, comme le souligne la présidente de l’association Féministes contre le cyberharcèlement. “Même en signalant une image, même après avoir obtenu une condamnation pénale, nous n’avons pas le moyen de prévenir sa rediffusion”.
Sources : Dazed / Marie Claire
