Enquête : Les entraîneurs de l'IA de conduite autonome de Tesla ne lui font pas confiance. 7 des 9 spécialistes de l'étiquetage des données admettent qu'ils ne monteraient pas à bord d'une Tesla en mode FSD

Enquête : Les entraîneurs de l’IA de conduite autonome de Tesla ne lui font pas confiance. 7 des 9 spécialistes de l'étiquetage des données admettent qu'ils ne monteraient pas à bord d'une Tesla en mode FSD

Reuters a interrogé neuf anciens étiqueteurs de données de Tesla et un ancien ingénieur spécialisé dans la conduite autonome afin de connaître leur avis sur le mode Full Self-Driving (FSD) de Tesla. Sept de ces neuf spécialistes des données ont déclaré qu’ils ne monteraient pas à bord d’une Tesla fonctionnant en mode FSD. Les résultats de l’enquête, qui sont sujets à controverse, ravivent le débat en matière de comparaison entre les humains et les ordinateurs en tant que conducteurs de véhicules.

« On a tous été témoins du flop », rapporte Reuters des propos des anciens étiqueteurs de données chez Tesla

Les étiqueteurs de données de Tesla ont une vision privilégiée des capacités du FSD lorsqu’ils examinent les images provenant des véhicules équipés de huit caméras extérieures.

Ces anciens employés rapportent avoir régulièrement constaté que le FSD échouait à des tâches élémentaires, notamment s’écarter pour laisser passer les véhicules d’urgence et laisser suffisamment d’espace aux motocyclistes. Parfois, ils ont vu des véhicules pilotés par le FSD ne pas freiner sur les bretelles de sortie d’autoroute, notamment dans un cas où une Tesla a percuté un mur en béton. Deux employés ont déclaré que des extraits montraient que le FSD ne parvenait pas à éviter les zones de travaux. Lors d’un de ces incidents, une Tesla a pénétré dans la zone, manquant de peu de heurter des ouvriers, a déclaré l’un des étiqueteurs.

Une équipe chargée de l'étiquetage des données se concentrait sur les quasi-collisions avec des piétons, d’après le rapport de trois de ces employés. Connue officieusement sous le nom de « trauma team », ces employés travaillaient à Palo Alto, en Californie, et disposaient d'autorisations spéciales pour visionner les images. Les ingénieurs gardaient précieusement les extraits de la « trauma team », mais certaines images « filaient » parfois vers d'autres équipes, a déclaré l’un des étiqueteurs des données.

Ce dernier et un autre employé déclarent avoir vu des extraits vidéo montrant des conducteurs prendre manuellement le contrôle à la dernière seconde lorsque le système FSD ne parvenait pas à détecter des individus sur les passages piétons. Deux autres anciens employés se sont souvenus avoir vu l'année dernière des vidéos montrant des Tesla pilotées par le système FSD manquant de peu de percuter des enfants.

Cette personne et un autre employé ont déclaré avoir vu des extraits vidéo montrant des conducteurs prendre manuellement le contrôle à la dernière seconde lorsque le système FSD ne parvenait pas à détecter des piétons sur les passages piétons. Deux autres anciens employés se sont souvenus avoir vu l'année dernière des vidéos montrant des Tesla pilotées par le système FSD manquant de peu de percuter des enfants.

L'Autopilot de Tesla est ce que l'on appelle un système d'aide à la conduite autonome. En termes simples, il s'agit d'une fonction qui permet à une Tesla de "voir" les voitures et la route qui l'entourent, et de se conduire elle-même dans une certaine mesure. Depuis 2016, Tesla commercialise une version coûteuse appelée Full Self-Driving (FSD). Une personne raisonnable pourrait déduire du nom que le progiciel permet à une voiture de se conduire entièrement. Mais ce n'est pas le cas. En réalité, aucune voiture disponible à l'achat pour les consommateurs n'est actuellement capable de se conduire entièrement de manière autonome. De précédents rapports pointent plutôt ce FSD comme étant une escroquerie flagrante que les consommateurs doivent éviter. En droite ligne avec cet état de choses, Tesla a dû procéder au retrait du terme « FSD » du nom de son logiciel de conduite en Chine.


Certains observateurs soulignent néanmoins des aspects pour lesquels ils estiment que les résultats de l’enquête menée par Reuters sont à prendre avec des pincettes

« L'enquête récente de Reuters et les articles qui la résument s'appuient sur des informations incomplètes et une présentation sélective. Les anciens étiqueteurs de données ne constituent pas une source neutre ou représentative. Leur rôle consiste à examiner et à annoter des séquences vidéo d'interventions et d'échecs — ce sont les données d'entraînement qui leur sont fournies. De par la nature même de leur travail, ils ont accès à un échantillon fortement biaisé de problèmes, et non à une vue d'ensemble des performances de la flotte. Citer neuf anciens étiqueteurs (plus un ingénieur) comme preuve que le FSD est globalement dangereux revient à ignorer ce biais fondamental et la taille minuscule de l'échantillon par rapport aux milliers de personnes qui ont travaillé sur le programme », souligne un observateur.


Les résultats de l’enquête ravivent le débat en matière de comparaison entre les humains et les ordinateurs en tant que conducteurs de véhicules.

Une étude publiée par des chercheurs de l'université de Floride centrale conclut que la conduite autonome est généralement plus sûre que la conduite humaine dans des conditions normales. Cependant, l'étude révèle également que les véhicules autonomes sont plus susceptibles d'avoir des accidents dans certaines situations. Les risques d'accident sont très élevés dans les virages ou en cas de faible luminosité, notamment à l'aube et au crépuscule. En outre, l'équipe ajoute que la base de données sur les accidents des véhicules autonomes est encore petite et limitée, ce qui signifie que leurs performances en matière de sécurité sont à considérer avec précaution.

L'équipe de recherche explique avoir analysé les données d'accidents de 2 100 véhicules autonomes et de 35 113 véhicules conduits par des humains en Californie entre 2016 et 2022, où les voitures autonomes sont courantes sur les routes. La recherche a révélé que les véhicules autonomes ou à conduite autonome présentent des taux d'accidents inférieurs à ceux des humains dans les zones de travaux, les événements de circulation et "les mouvements préalables à l'accident", comme le ralentissement et la poursuite de la route en ligne droite. Le rapport de l'étude a été publié dans la revue scientifique Nature.


Les chercheurs ont utilisé une méthode d'appariement statistique pour trouver des paires d'accidents survenus dans des circonstances similaires, avec des facteurs partagés tels que l'état de la route, les conditions météorologiques, l'heure de la journée et le fait que l'incident ait eu lieu à une intersection ou sur une route droite. L'équipe a concentré son analyse d'appariement sur 548 accidents de véhicules autonomes signalés en Californie, sauf les véhicules moins automatisés ne disposant que de systèmes d'aide à la conduite. L'étude suggère que "les véhicules autonomes sont généralement meilleurs dans la plupart des scénarios".

Cependant, l'étude révèle également que les véhicules autonomes semblent plus sujets aux accidents dans des situations spécifiques. Dans des conditions de faible luminosité, à l'aube ou au crépuscule, les véhicules autonomes sont cinq fois plus susceptibles d'avoir un accident que les véhicules conduits par des humains. Le taux d'accident est presque deux fois plus élevé que celui des conducteurs humains lorsque les véhicules autonomes prenaient des virages. Il y a eu un certain nombre d'accidents très médiatisés de voitures autonomes, poussant parfois les riverains à vandaliser, voire incendier, ces véhicules dits "autonomes".

Source : Reuters

Et vous ?

Est-il temps d’admettre que les voitures entièrement autonomes ne sont pas prêtes d’arriver ? Partagez-vous les avis selon lesquels ce ne sera jamais le cas ?
Que pensez-vous des contre-arguments mis en avant par certains observateurs contre l’enquête de Reuters ? Les trouvez-vous pertinents ?
Les résultats des études qui arrivent à la conclusion que les ordinateurs sont plus sûrs que les humains en tant que chauffeurs sont-ils cohérents avec la réalité dont vous êtes au fait ?

Voir aussi :

17 morts, 736 accidents : le bilan alarmant d'Autopilot et Full Self-Driving de Tesla indique-t-il une course à l'innovation au mépris de la sécurité ? Les statistiques de la NHTSA inquiètent

Le logiciel FSD de Tesla est très impopulaire et rebute davantage de consommateurs qu'il n'en attire, d'après une étude qui questionne sur la valeur réelle de la filière du véhicule automobile

Si l'Autopilot ne vous tue pas, ça sera les vitres : une milliardaire américaine se noie dans une Tesla après que les sauveteurs se sont battus avec les vitres renforcées de la voiture