La reproduction vocale par l’IA est une arme redoutable entre les mains des escrocs. De plus en plus d’entre eux imitent la voix de proches pour monter des arnaques. Plusieurs experts alertent à ce propos.
- Les cas de personnes arnaquées par des escrocs qui imitent la voix d’un proche au téléphone se multiplient
- Wired a questionné plusieurs experts pour éviter de vous faire avoir
- Les IA génératives sont de plus en plus performantes et indétectables lorsqu’elles imitent des voix
L’intelligence artificielle est utilisée à des fins malveillantes, sans surprise, comme l’explique Wired. Certains escrocs reproduisent, par exemple, la voix d’un membre de votre famille qui vous explique qu’il vient d’avoir un terrible accident de voiture et qu’il lui faut de l’argent sous peine d’atterrir en prison. C’est bien son numéro qui est affiché sur l’écran de votre téléphone mais pourtant, ce n’est pas plus.
Des clones vocaux performants et indétectables
Ces clones vocaux basés sur l’IA sont très performants et capables d’imiter n’importe qui dans plusieurs langues. Les arnaques ne risquent pas de s’arrêter lorsque l’on sait que OpenAI, à qui l’on doit ChatGPT ou encore Sora, a annoncé que son nouveau modèle de synthèse vocale améliorera le clonage vocal. Mais il y a d’autres startups technologiques qui développent des solutions permettant de reproduire la voix humaine.
Le clonage de la voix humaine par l’IA est si efficace que Ben Colman, cofondateur et directeur général de Reality Defender, estime que détecter les bizarreries (pauses, signes de latence…) devient de plus en plus difficile. Les escrocs ont donc de véritables armes entre les mains, d’autant plus lorsqu’ils utilisent un numéro de téléphone de confiance pour vous contacter comme une banque ou une agence gouvernementale.
Les conseils de Michael Jabbara, responsable mondial des services de lutte contre la fraise chez Visa ? N’hésitez pas demander à ce qu’on vous rappelle lorsque l’on vous demande des informations personnelles ou de l’argent. Contactez la personne via un autre canal comme une discussion que vous avez depuis une messagerie, par exemple.
Steve Grobman, directeur de la technologie chez McAfee, recommande même de créer un “mot de passe de sécurité” que seuls vous et vos proches connaissent et que vous pouvez demander au téléphone. Un mot, une phrase, etc.
Créez un “mot de passe de sécurité” avec vos proches
Si vous n’avez pas de “mot de passe de sécurité” et que vous n’arrivez pas à déterminer si l’appel est passé par une IA, Steve Grobman vous suggère de poser une question personnelle dont seul un proche connaît la réponse. Il faut qu’elle soit suffisamment précise pour que l’escroc ne puisse pas la deviner ou répondre largement.
Rahul Sood, chef de produit chez Pindrop, nous rappelle que tout le monde peut cloner une voix à partir de “seulement 5 à 10 secondes”. En clonant celle d’un proche, les escrocs tentent de créer un sentiment d’urgence tout en suscitant votre confiance. “Ils ont une très bonne compréhension du comportement humain. Si vous prenez le temps de réfléchir à une situation et que vous vous ne réagissez pas sous le coup de l’émotion, vous éviterez peut-être de vous faire avoir” explique Michael Jabbara.
Source : Wired
