Le constructeur automobile électrique Tesla est confronté à un nouvel examen minutieux de son système Autopilot, suite à un rappel massif de plus de 2 millions de véhicules en décembre dernier. L’Administration nationale de la sécurité routière (NHTSA) a testé la mise à jour du système et continue de poser des questions sur son efficacité.En avril 2021, Consumer Reports a déclaré que ses chercheurs ont « facilement » réussi à tromper le système Autopilot de Tesla pour qu'il fonctionne sans personne au volant. Une démonstration qui est intervenue alors que les autorités continuent d'enquêter sur un accident mortel au Texas impliquant une Tesla qui, selon les autorités, n'avait personne sur le siège du conducteur au moment des faits. Ce nouvel accident a soulevé une question sur la sécurité d’Autopilot, le système avancé d'aide à la conduite de la société.
L’enquête de la NHTSA a débuté en août 2021, lorsque plusieurs accidents impliquant des Tesla sous Autopilot ont eu lieu, notamment des collisions avec des véhicules d’intervention d’urgence stationnés. Certains accidents se sont révélés mortels. En juin 2022, l’Office of Defects Investigation (ODI) a élevé cette enquête à un niveau d’analyse technique. Enfin, en décembre 2023, Tesla a été contrainte de rappeler plus de 2 millions de voitures après que l’analyse a révélé des lacunes dans les systèmes de surveillance du conducteur et une conception présentant un potentiel d’utilisation abusive prévisible du système.
Des documents publiés par les régulateurs américains de la sécurité indiquaient que l'entreprise allaient envoyer une mise à jour logicielle pour résoudre les problèmes. Le rappel couvre la quasi-totalité des véhicules vendus par Tesla aux États-Unis et inclut ceux produits entre le 5 octobre 2012 et le 7 décembre 2023. La mise à jour du logiciel comprend des contrôles et des alertes supplémentaires « pour encourager davantage le conducteur à adhérer à sa responsabilité de conduite continue », selon les documents.
Autopilot comprend des fonctions appelées Autosteer et Traffic Aware Cruise Control, Autosteer étant destiné à être utilisé sur les autoroutes à accès limité lorsqu'il ne fonctionne pas avec une fonction plus sophistiquée appelée Autosteer on City Streets. La mise à jour du logiciel est censée limiter l'utilisation d'Autosteer. « Si le conducteur tente d'activer l'Autosteer alors que les conditions ne sont pas réunies pour le faire, la fonction lui signalera qu'elle n'est pas disponible par des alertes visuelles et sonores, et l'Autosteer ne s'activera pas », indiquent les documents de rappel.
Autopilot peut diriger, accélérer et freiner automatiquement dans sa voie, mais il s'agit d'un système d'aide à la conduite et ne peut pas se conduire lui-même, malgré son nom. Des tests indépendants ont révélé que le système de surveillance est facile à tromper, à tel point que des conducteurs ont été pris en flagrant délit de conduite en état d'ébriété ou même assis sur le siège arrière.
Dans son rapport de défaut déposé auprès de l'agence de sécurité, Tesla a déclaré que les contrôles d'Autopilot « pourraient ne pas être suffisants pour empêcher une mauvaise utilisation par le conducteur ».
Tesla précise sur son site internet que le système Autopilot et le système Full Self Driving, plus sophistiqué, ne peuvent pas conduire de manière autonome et sont destinés à aider les conducteurs qui doivent être prêts à intervenir à tout moment. Le système Full Self Driving est actuellement testé par des propriétaires de Tesla sur des routes publiques.
La NHTSA a maintenant clos cette analyse technique, qui a examiné 956 accidents
Après avoir exclu les accidents où l'autre voiture était en tort, où Autopilot ne fonctionnait pas ou où les données étaient insuffisantes pour faire une détermination, elle a trouvé 467 accidents Autopilot qui se répartissent en trois catégories distinctes.
Tout d'abord, 221 étaient des accidents frontaux dans lesquels la Tesla a heurté une voiture ou un obstacle malgré « un temps suffisant pour qu'un conducteur attentif puisse réagir afin d'éviter ou d'atténuer l'accident ». Par ailleurs, 111 accidents Autopilot se sont produits lorsque le système a été désengagé par inadvertance par le conducteur, et les 145 accidents Autopilot restants se sont produits dans des conditions de faible adhérence, par exemple sur une route mouillée.
Le système Autopilot de Tesla a un domaine de conception opérationnelle plus permissif que n'importe quel système d'aide à la conduite comparable qui exige toujours que le conducteur garde les mains sur le volant et les yeux sur la route, et le rapport de la NHTSA ajoute que « Autopilot a invité une plus grande confiance du conducteur via son autorité de contrôle plus élevée et sa facilité d'engagement ».
Le résultat a été des conducteurs désengagés qui ont eu des accidents, et ces accidents « sont souvent graves parce que ni le système ni le conducteur ne réagissent de manière appropriée, ce qui entraîne des résultats différentiels à grande vitesse et des accidents à haute énergie », indique la NHTSA. Tragiquement, au moins 13 personnes ont été tuées à la suite de ces accidents.
La NHTSA a également constaté que le système télématique de Tesla présentait de nombreuses lacunes, malgré la croyance bien ancrée chez de nombreux fans de la marque que le système Autopilot enregistre et télécharge en permanence vers les serveurs de Tesla pour s'améliorer. Au lieu de cela, il n'enregistre un accident que si les airbags se déploient, ce qui, selon les données de la NHTSA, ne se produit que dans 18 % des accidents signalés par la police.
Un rappel qui semble ne pas avoir porté ses fruits
L'agence a également critiqué le marketing de Tesla. « Notamment, le terme “Autopilot” n'implique pas une fonction d'assistance L2 mais suscite plutôt l'idée que les conducteurs n'ont pas le contrôle. Cette terminologie peut amener les conducteurs à croire que l'automatisation a plus de capacités qu'elle n'en a et les inviter à faire trop confiance à l'automatisation », indique la NHTSA.
Mais maintenant, l'ODI de la NHTSA a ouvert une requête de rappel pour évaluer si la correction de décembre a réellement rendu le système plus sûr. À première vue, l'agence n'est pas convaincue que c'est le cas, si l'on en croit les autres accidents d'Autopilot qui se sont produits depuis le rappel et après avoir testé le système mis à jour lui-même.
De manière inquiétante, l'agence écrit que « Tesla a déclaré qu'une partie du remède exige que le propriétaire opte pour le système et permet à un conducteur de l'annuler facilement » et veut savoir pourquoi les mises à jour ultérieures ont résolu des problèmes qui auraient dû être corrigés avec le rappel de décembre.
Les noms Autopilot et Full Self-Driving dont Tesla fait usage donnent aux utilisateurs un faux sentiment de sécurité
Comme la NHTSA et plusieurs autres voix avant elle, un lanceur d'alerte, qui a travaillé chez Tesla, qualifie les voitures équipées d’Autopilot « d’expériences sur la voie publique qui menacent la vie des usagers ». Lukasz Krupski, ancien technicien de Tesla, s’est d’ailleurs vu décerner le prix Blueprint Europe Whistleblowing pour le courage dont il a fait preuve en divulguant une masse de données qui jettent le doute sur la viabilité et la sécurité de la technologie de conduite autonome du constructeur automobile.
Ryan Cooper, éditeur en chef d'un magazine, note par exemple que : « les régulateurs devraient examiner de plus près les fonctions d'assistance à la conduite en général, obligeant les fabricants à prouver qu'ils améliorent réellement la sécurité, plutôt que de faire confiance à la parole d'un oligarque fourbe ».
Il continue en disant que :
« La principale défense de FSD est l'hypothèse technologique utopique selon laquelle, quels que soient ses problèmes, elle ne peut pas être pire que les conducteurs humains. Tesla a affirmé que le taux d'accident FSD est un cinquième de celui des conducteurs humains, et Musk a fait valoir qu'il est donc moralement obligatoire de l'utiliser : "Au point où vous pensez que l'ajout d'autonomie réduit les blessures et la mort, je pense que vous avez une obligation morale de le déployer même si vous allez être poursuivi et blâmé par beaucoup de gens.
« Pourtant, si les propres données de Musk sur l'utilisation du FSD sont exactes, cela ne peut pas être vrai. En avril, il a affirmé qu'il y avait eu 150 millions de miles parcourus avec FSD lors d'un appel à un investisseur, un chiffre raisonnable étant donné que ce ne serait que 375 miles pour chacune des 400 000 voitures dotées de la technologie. En supposant que tous ces accidents impliquaient des FSD - une hypothèse plausible étant donné que les FSD ont été considérablement étendus au cours de la dernière année et que les deux tiers des accidents dans les données se sont produits pendant cette période - cela implique un taux d'accidents mortels de 11,3 décès pour 100 millions de kilomètres parcourus. Le taux global d'accidents mortels pour les voyages en voiture, selon la NHTSA, était de 1,35 décès pour 100 millions de kilomètres parcourus en 2022.
« En d'autres termes, le système FSD de Tesla est probablement de l'ordre de dix fois plus dangereux en matière de conduite que les humains ».
Tesla pour sa part n’en démord pas et continue de se vanter de disposer de la meilleure intelligence artificielle pour la résolution d’un des problèmes du monde réel, à savoir, la conduite automobile.
Sur le terrain par contre, les plaintes se multiplient à l’encontre des véhicules dits autonomes de Tesla et autres WaymoTesla has by far the best real-world AI https://t.co/At0EPNmKId
— Elon Musk (@elonmusk) December 2, 2023
« Ces engins s’arrêtent souvent devant nos bases et empêchent nos équipes de se rendre sur le terrain pour des interventions. Ils ont constitué des obstacles de diverses manières pour nos équipes et même pour des ambulances », rapporte le chef des pompiers de San Francisco qui rejoint des observateurs selon lesquels « les robotaxis ne sont pas encore prêts à partager les routes avec les humains. »
Source : NHTSA
Et vous ?
La responsabilité des conducteurs : qui devrait être tenu responsable en cas d’accident impliquant un système de conduite automatisée comme l’Autopilot de Tesla ? Le conducteur, le constructeur automobile ou les deux ? Limites de l’automatisation : quelles sont les limites de la technologie actuelle en matière de conduite automatisée ? Devrions-nous être plus prudents quant à l’adoption de ces systèmes ? Transparence des données : les constructeurs automobiles devraient-ils être plus transparents sur la collecte et l’utilisation des données de télémétrie ? Comment pouvons-nous garantir que ces données sont utilisées de manière éthique ? Formation des conducteurs : comment pouvons-nous mieux former les conducteurs à l’utilisation des systèmes d’assistance à la conduite ? Quels sont les éléments essentiels à inclure dans la formation ? Rôle des régulateurs : quel devrait être le rôle des organismes de réglementation dans la supervision des technologies de conduite automatisée ? Comment peuvent-ils assurer la sécurité tout en favorisant l’innovation ? 
Envoyé par DevCon1234
