Des chercheurs et artistes utilisent l’art pour représenter et s’interroger sur la manière dont l’intelligence artificielle identifie et catégorise chaque individu.
Depuis plusieurs années, l’utilisation de l’intelligence artificielle s’étend à de nombreux domaines. Désormais, elle analyse carrément la qualité des pizzas… De quoi susciter la peur chez certains, y compris chez Elon Musk qui s’inquiète pour l’avenir.
Bon, en réalité, dans son état actuel, cette fameuse intelligence artificielle est en réalité très stupide dès qu’on lui demande de sortir du domaine spécifique pour lequel elle a été conçue. Pire, elle l’est parfois même dans son domaine spécifique. Un constat illustré par l’application ImageNet Roulette. Elle mobilise l’IA et essaye de classer les gens d’après un selfie. Le moins que l’on puisse dire, c’est qu’elle n’est pas vraiment physionomiste !
Des résultats peu probants mais qui soulèvent d’autres questions
Développé par Leif Ryge, ImageNet Roulette a été élaboré dans le cadre du projet artistique Training Humans, imaginé par l’artiste et chercheur Trevor Paglen et la chercheuse Kate Crawford. Ces derniers souhaitent établir un état des lieux de l’IA dans sa forme actuelle. Comme vous vous en doutez, ImageNet Roulette se concentre sur la reconnaissance d’images.
Kate Crawford met en avant leur volonté de tester l’utilisation d’un système de reconnaissance faciale dans un cadre quotidien, éloigné de toutes considérations dystopiques. ImageNet Roulette reconnaît divers types d’objets, dont les visages humains, et les classe selon différents critères.
En analysant le visage d’un de nos collègues, le système l’a catalogué comme “beard”, soit une personne qui cherche à dissimuler sa véritable orientation sexuelle selon le site. Un autre essai le fait apparaître comme skinhead. Deux postulats faux.
Pour établir ce genre de conclusions, ImageNet Roulette utilise un système de classification qui repose sur des catégories. L’application s’appuie sur 2833 sous-catégories. Elle classe les gens selon la race, la nationalité, la profession, le statut économique, le comportement, le caractère, etc.
Bien sûr, indépendamment de la pertinence des résultats obtenus, le projet vise à interroger sur la manière dont l’IA perçoit les individus et les catégorise. Une problématique résumée par l’exposition Training Humans en ces termes : “Training Humans explore deux questions fondamentales en particulier : comment les humains sont représentés, interprétés et codifiés par des ensembles de données de formation, et comment les systèmes technologiques récoltent, étiquettent et utilisent ce matériel. Alors que les classifications des humains par les systèmes IA deviennent plus envahissantes et complexes, leurs biais et leurs politiques deviennent apparents. Dans les systèmes de vision par ordinateur et d’IA, les formes de mesure se transforment facilement – mais subrepticement – en jugements moraux”.
