Les voitures autonomes constituent une menace pour les piétons, plus particulièrement pour les personnes noires et les enfants. Selon une étude, le problème provient du fait que les images qui alimentent les IA ne représentent pas assez ces catégories de personnes.
Peut-être que le Code de la route a changé pour intégrer la voiture autonome, mais il n’est pas garant de la sécurité des piétons. À cause des véhicules sans conducteur, traverser la rue pourrait devenir un véritable danger pour les enfants et les personnes de couleur. En effet, les systèmes de voitures sans conducteur présentent un biais vis-à-vis de certains piétons, selon une nouvelle étude du Kings College de Londres.
Comment les chercheurs ont examiné voitures sans conducteur ?
Pour arriver à cette conclusion, les chercheurs ont évalué huit systèmes de détection de piétons alimentés par intelligence artificielle utilisés dans la recherche sur les véhicules autonomes. Plus de 8 000 images sont passées au crible du logiciel, révélant que les voitures autonomes étaient près de 20 % moins performantes pour détecter les enfants que les piétons adultes. Elles sont également 7,5 % moins efficaces dans la détection des piétons à la peau mate qu’à la peau claire.
Plus problématique encore, l’IA était encore moins performante pour repérer les personnes noires dans des conditions de faible luminosité, ce qui rend la technologie encore moins sûre pour ces personnes la nuit. Un problème que l’Apple Car pourrait régler, puisqu’elle conduira parfaitement dans l’obscurité.
Selon les chercheurs, la source majeure de cette menace posée aux enfants et aux personnes racisées provient d’un biais dans les données utilisées pour former l’IA. Ce n’est pas étonnant puisque les images utilisées dans le machine learning contiennent davantage d’adultes et de personnes à la peau claire : comme un simple reflet de la société occidentale.
À lire > L’Apple Watch est-elle raciste ? Un juge donne son verdict
Les opérateurs de voitures autonomes démentent
Jie Zhang, principal auteur de l’étude, explique dans un communiqué de presse que “les constructeurs automobiles ne divulguent pas les détails des logiciels qu’ils utilisent pour la détection des piétons, mais comme ils sont généralement construits à partir des mêmes systèmes open-source que nous avons utilisés dans notre recherche, nous pouvons être sûrs qu’ils se heurtent aux mêmes problèmes de partialité.“
Ainsi, l’étude n’aurait pas testé exactement le même logiciel que celui utilisé par les entreprises de voitures sans conducteur. Un porte-parole de Waymo, entreprise qui déploie des voitures autonomes à San Francisco, explique dans les pages de Guizmodo que l’étude ne reflète pas tous les outils utilisés dans les voitures de l’entreprise.
À lire > Première fois en voiture autonome : les réactions des habitants de San Francisco
“Nous exploitons l’ensemble de nos capteurs – y compris nos lidars et nos radars, et pas seulement les caméras – pour nous aider à percevoir activement les détails de notre environnement d’une manière qui serait difficile à réaliser avec les seules caméras.” explique le porte-parole. De plus, Waymo entraînerait sa technologie de conduite autonome à classer spécifiquement les humains et à réagir à leur comportement, avec des ensembles de données représentatifs.
Source : Gizmodo
