Le deepfake boosté à l’intelligence artificielle est de plus en plus difficile à détecter. Pire, il sert à diffuser des arnaques sur les réseaux sociaux comme TikTok. Des célébrités voient leurs voix et leurs images pillées pour créer du contenu parfois monétisé.
Le deepfake a pris une ampleur telle que même le FBI alerte les internautes. Et lorsque TikTok entre en jeu, il est parfois compliqué pour les utilisateurs de déceler le vrai du faux, surtout quand l’intelligence artificielle passe par là. En plus de copier l’image, le deepfake pille les voix des célébrités qui sont détournées sur le réseau social chinois comme l’explique Tech & Co.
À lire > Deepfake : il lui vole 600 000 € en se faisant passer pour son ami, l’IA a encore frappé
L’image et la voix des stars pillées pour créer du contenu
Keanu Reeves, Timothée Chalamet, Robert Downey Jr. ou Margot Robbie, les star bankables n’échappent pas au phénomène Unreal sur TikTok, plusieurs millions de vues au compteur. Si les descriptions précisent qu’il s’agit d’un deepfake, des questions légitimes se posent à propos du droit à l’image des célébrités copiées. D’autant plus que les compte Unreal monétisent parfois les vidéos. Il s’agit pourtant du cas le plus soft puisque la supercherie est indiquée.
Aussi surprenant que cela puisse paraître, une société n’a pas hésité à s’emparer de l’image de Tom Hanks, sans son accord, pour une publicité. La star de La ligne verte ou encore de Forrest Gump s’est insurgée contre cette utilisation abusive via son compte Instagram. L’intelligence artificielle et le deepfake ont été combinés pour promouvoir une mutuelle dentaire.
Pour le moment, rien n’est vraiment mis en place pour protéger l’image et la voix des célébrités utilisées à des fins de détournement.
À lire > Les créateurs de South Park créent un film sur Donald Trump avec du deepfake
Le deepfake doit être signalé sur TikTok depuis mars
Pour rappel, depuis mars dernier, TikTok demande aux comptes qui publient des images modifiées, comme le deepfake, d’étiqueter les vidéos comme fausses. Ce que font les comptes Unreal, par exemple. Le réseau social autorise toujours l’utilisation d’images de célébrités sous certaines conditions. En revanche, les abus, la désinformation ou la publicité sont bannis.
Le réseau social reste donc très opaque à propos de la modération de ce contenu basé sur le deepfake. Récemment, TikTok a été épinglé pour favoriser la diffusion d’une arnaque sur Temu.
À lire > Sora, la nouvelle IA d’OpenAI va révolutionner la création de vidéos.
