15 mineurs sévèrement condamnés pour des deepfakes humiliants de leurs camarades

L’évolution de l’intelligence artificielle rend les deepfakes de plus en plus difficiles à détecter. Ils peuvent alors servir aussi bien pour des arnaques propagées sur les réseaux sociaux que pour nuire à l’image de personnalité ou de particuliers.

En septembre 2023, des jeunes filles de la ville d’Almendralejo, en Espagne, ont vu leurs photos modifiées artificiellement pour les faire apparaître nues, puis diffusées par des élèves de leur établissement scolaire. La justice vient de condamner les auteurs des deepfakes.

Des mineurs condamnés pour avoir créé des deepfakes pornographiques de leurs camarades

Lors de la rentrée 2023, la circulation de deepfakes de jeunes filles d’un établissement scolaire local secouait la petite commune d’Almendralejo. Les clichés montraient leurs visages sur le corps de femmes nues. Les images modifiées par l’intelligence artificielle s’étaient retrouvées sur des sites pornographiques.

À lire > Les deepfakes porno générés par l’IA explosent, voici les conseils du FBI pour vous protéger

La police était parvenue à identifier les mineurs impliqués dans la création de ces deepfakes réalisés à partir de photos récupérées sur les réseaux sociaux des victimes. Le tribunal pour enfants de Badajoz vient de reconnaître les 15 accusés coupables de délits de pédopornographie et d’atteinte à l’intégrité morale.

Leur jeune âge empêchant leur incarcération, le tribunal leur impose une mesure de probation d’un an avec obligation de se soumettre à une formation à la vie affective et sexuelle, à l’utilisation responsable des technologies de l’information et de la communication et sur l’égalité et le genre.

L’affaire a eu un grand retentissement en Espagne, au point de relancer le débat sur l’interdiction des smartphones aux moins de 16 ans. En France, Emmanuel Macron aimerait aussi empêcher l’accès aux téléphones et aux réseaux sociaux aux enfants.