Voiture autonome : les logiciels utilisés pour détecter les piétons ne parviendraient pas à identifier les personnes à la peau foncée aussi souvent que celles à la peau claire

Selon des chercheurs

D’après une étude menée par des chercheurs du King's College de Londres et de l'université de Pékin en Chine, les systèmes de détection de piétons des voitures autonomes ont du mal à identifier correctement les personnes à la peau foncée aussi souvent que celles à la peau claire. Les chercheurs ont examiné huit systèmes de reconnaissance d’image fréquemment utilisés dans les voitures autonomes pour évaluer la façon dont chaque dispositif réagissait en fonction des teints de la peau. Les chercheurs ont constaté une disparité de 7,52 % dans la précision entre les personnes à la peau claire et les personnes à la peau foncée. Autre constatation inquiétante, les résultats ont également montré un taux de détection plus élevé pour les adultes que pour les enfants. Les adultes ont été correctement identifiés par le logiciel à un taux de 19,67 % supérieur à celui des enfants.

Les systèmes de conduite autonome sont en passe de devenir le mode de transport prédominant à l'avenir. Cependant, ces systèmes font l’objet de bogues logiciels, qui peuvent potentiellement entraîner des blessures graves, voire mortelles, pour les piétons et les passagers. Le malheureux accident survenu en 2018 avec un véhicule autonome d'Ubers est un rappel brutal de ces risques. Les faits remontent à mars 2018 où une voiture autonome de la firme Uber a heurté mortellement une femme dans la ville de Tempe dans l'Arizona alors qu’elle traversait en dehors d’un passage piéton. Bien qu’il y avait un conducteur humain au volant de la voiture, elle était sur contrôle informatique au moment de l’impact.


Tesla, un constructeur de voitures autonomes qui fait l’objet de nombreux affaires judicieux inhérentes aux accidents causés par ses véhicules aurait demandé à la National Highway Traffic Safety Administration (NHTSA) de ne pas révéler si ses logiciels d’aide à la conduite, Autopilot et Full Self-Driving, étaient impliqués dans des accidents de la route. L’enquête révèle les tensions entre Elon Musk, le PDG de Tesla, et le gouvernement américain, alors que les logiciels de Tesla font l’objet de controverses pour leur manque de fiabilité et de sécurité.

L’agence américaine de sécurité automobile a déclaré l’année dernière avoir ouvert une enquête sur l’accident mortel qui pourrait avoir été causé par le système avancé d'aide à la conduite de Tesla. L'accident, impliquant une Tesla Model S modèle 2022 qui a percuté un équipement de construction à Newport Beach, est l'un des 35 qui font l'objet d'une enquête de la NHTSA impliquant des véhicules Tesla dans lesquels des systèmes avancés d'aide à la conduite comme Autopilot ont été soupçonnés d'être utilisés depuis 2016. Au total, 14 décès par accident ont été signalés dans le cadre de ces enquêtes sur Tesla.

En juin, nous avons rapporté qu'il y avait eu au total 736 accidents et 17 décès impliquant des Teslas en mode Autopilot depuis 2019. Steven Cliff, ancien administrateur adjoint de la NHTSA, a déclaré qu'il avait vu des données indiquant que les véhicules Tesla étaient impliqués dans « un nombre disproportionné d'accidents impliquant des véhicules d'urgence », mais que l'agence n'avait pas.

Biais et équité dans l'intelligence artificielle

En 2007, l'IA a été définie comme la « science et l'ingénierie de la fabrication de machines intelligentes, en particulier de programmes informatiques intelligents ». En 2018, Microsoft a défini l'IA comme « un ensemble de technologies qui permettent aux ordinateurs de percevoir, d'apprendre, de raisonner et d'aider à la prise de décision pour résoudre des problèmes de manière similaire à ce que font les gens » Plus récemment, l'IA a été définie comme « un système qui pense et agit comme les humains ».

L'IA soulève bien de questions - son manque de transparence, par exemple, ou son potentiel d'utilisation intentionnelle de fausses informations. Il est bien connu que l'IA peut répandre des préjugés si le concepteur du programme est partial. « En matière d'IA, l'équité consiste à ce qu'un système d'IA traite de la même manière les groupes privilégiés et les groupes sous-privilégiés, ce qui n'est pas le cas des véhicules autonomes », a déclaré Jie M. Zhang, l'un des six chercheurs qui ont participé à l'étude.


Selon des chercheurs du King's College de Londres et de l'université de Pékin en Chine, les logiciels de véhicules autonomes utilisés pour détecter les piétons sont incapables d'identifier correctement les personnes à la peau foncée aussi souvent que celles à la peau claire. Les trois figures ci-dessus indiquent que des niveaux de luminosité plus faibles entraînent une augmentation du taux moyen d'échec pour chaque attribut. Dans les trois figures, un biais explicite est observé dans YOLOX et RetinaNet pour le groupe à peau foncée lorsque le niveau de luminosité diminue.

La...