L'Autopilot de Tesla est sans doute le logiciel d'aide à la conduite le plus controversé de l'industrie. Un nouveau rapport indique que les employés qui examinent et étiquettent les clips vidéo pour aider à former le logiciel Autopilot de Tesla ont reçu l'ordre d'ignorer les panneaux interdisant les demi-tours et les virages à droite sur les feux rouges. Tesla aurait dit à l'équipe d'étiquetage de données que le but est d'avoir des voitures capables de se conduire comme le ferait un humain, et non comme un robot qui se contente de suivre les règles. Ces révélations pourraient en effet expliquer les comportements des véhicules Tesla dans certains cas.L'Autopilot de Tesla est un logiciel controversé qui suscite plusieurs préoccupations
L'Autopilot est un système avancé d'aide à la conduite (ADAS) développé par Tesla et qui lui permet une automatisation partielle de ces véhicules électriques (automatisation de niveau 2). Tesla fournit un Autopilot de base sur tous les véhicules, qui comprend des capacités comme le centrage sur la voie et le régulateur de vitesse en fonction du trafic. Les propriétaires de Tesla peuvent ensuite payer pour obtenir une version plus évoluée appelée Full Self-Driving (FSD) avec des capacités avancées telles que la navigation semi-autonome. Cependant, l'Autopilot de Tesla est très controversé et rencontre divers problèmes.
Un rapport publié par Business Insider, basé sur le témoignage d'un employé anonyme travaillant sur l'Autopilot de Tesla, lève un peu plus le voile sur la façon dont le logiciel est formé. Le travail quotidien de cet employé anonyme consiste à examiner les images capturées par les caméras installées sur les véhicules Tesla et à étiqueter des objets, tels que des panneaux de signalisation, des routes et des lignes de démarcation pour que le système sache de quoi il s'agit.
Il a rapporté que les inquiétudes des employés concernant l'Autopilot ont été rejetées, même lorsqu'il s'agissait d'aborder des règles routières de base qui pourraient voir l'humain derrière le volant condamné à une amende pour les avoir enfreintes. « Lorsque nous avions des préoccupations, elles étaient souvent balayées d'un revers de main. Il est arrivé qu'on nous dise d'ignorer les panneaux "ne pas tourner au rouge" ou "ne pas faire demi-tour" », a-t-il expliqué.
« C'était le genre de choses qui nous mettaient mal à l'aise, mes collègues et moi. Dans certains cas, ils nous écoutaient, mais certaines fois, la réponse générale était du genre : "occupez-vous de vos affaires et de votre niveau de rémunération" », a-t-il ajouté. Il a déclaré avoir commencé à travailler au centre de données Autopilot de Buffalo en 2022 et qu'il est arrivé sans aucune expérience dans le domaine de l'automobile ou des véhicules électriques au préalable.
Le processus de formation de l'Autopilot pose des problèmes de confidentialité
Il est probable que cet employé n'ait pas réalisé que la pratique autrefois courante des employés consistant à partager des clips amusants ou inquiétants rencontrés au cours de leur journée de travail était si délicate sur le plan éthique. Selon lui, les membres de l'équipe travaillant sur l'Autopilot partagent parfois des vidéos troublantes, dont certains peuvent être préjudiciables, faisant écho à des rapports antérieurs qui dénonçaient déjà ces pratiques. L'employé a déclaré : « en général, les gens se contentaient de partager des vidéos de choses bizarres qu'ils avaient vues, mais une fois, un collègue est allé trop loin ».
« Il a partagé la vidéo d'un petit garçon qui avait été renversé par une Tesla alors qu'il faisait du vélo. J'ai trouvé cela sadique », raconte-t-il. L'année dernière, il a été révélé que les travailleurs de ces bureaux de Tesla partageaient secrètement des clips intimes entre eux, ce qui a apparemment conduit à une répression interne de cette pratique. Les personnes travaillant de l'Autopilot ne pouvaient plus voir d'images en dehors des serveurs de leur propre équipe.
Certaines images ont été marquées d'un filigrane afin de mieux tracer leur origine en cas de fuite. Et bien qu'il ait été dit aux employés « si vous êtes pris une fois, c'est votre ticket de sortie », certains ont apparemment continué à le faire. « Parfois, les gens continuent à se passer des images au bureau, surtout s'il s'agit de quelque chose qui sort de l'ordinaire, mais cela n'arrive pas aussi souvent », a déclaré l'employé qui se dit troublé par ces événements.
Dans l'ensemble, ce travailleur a déclaré qu'il était désillusionné par l'entreprise qu'il considérait autrefois comme une excellente opportunité de carrière. Lors de son témoignage, il a déclaré au média qu'il pense que « Tesla est une entreprise dystopique ». Cet employé a également évoqué les effets négatifs que l'étiquetage de données, notamment le visionnage continu de plusieurs heures de clips vidéo, pourrait avoir sur la santé mentale des travailleurs.
« Nous passons en revue entre cinq heures et demie et six heures d'images par jour. Il peut être très difficile de se concentrer. On peut se retrouver dans une sorte de brouillard lorsqu'on ne fait que regarder un clip après l'autre et il peut être difficile de rester sain d'esprit », a déclaré l'initié de Tesla lors de son interview.
Tesla aurait également déployé un logiciel de surveillance étroite de ses employés
C'est étrange de voir la conduite quotidienne de quelqu'un, mais c'est également un élément important qui permet de corriger et d'affiner le système Autopilot. Cependant, outre les problèmes de confidentialité et les potentiels effets négatifs sur la santé mentale des personnes chargées d'étiqueter les données, l'employé a évoqué un autre problème important lors de son témoignage. Il a déclaré que Tesla surveille étroitement les employés travaillant dans les bureaux d'étiquetage de données à l'aide d'un logiciel appelé Flide Time. Tesla suivrait également les frappes sur le clavier et la durée consacrée à chaque tâche.
L'utilisation de logiciels avancés, généralement basés sur l'IA, pour surveiller les employés sur le lieu du travail semble avoir pris de l'ampleur dans les grandes entreprises. L'employé de Tesla a laissé entendre que le logiciel de Tesla pouvait être une source de stress permanent pour les travailleurs. Tesla utilise Flide Time pour microgérer les employés et se base régulièrement sur les données du logiciel pour licencier les employés jugés non performants :
Envoyé par L'employé de Tesla
Tesla nous accorde une pause de 15 minutes et une pause déjeuner de 30 minutes, mais vous devez la chronométrer parfaitement en raison du logiciel de surveillance des employés de Tesla : Flide Time. Il suit les frappes et la durée de travail sur les images, ce qui peut rendre la tâche délicate. Pour étiqueter correctement certains clips, il faut faire appel à des ressources extérieures.
Vous devrez donc sortir du système d'étiquetage pour consulter le Code de la route ou les politiques d'étiquetage de Tesla, mais chaque fois que vous ne cliquez pas dans le logiciel, celui-ci vous suit comme si vous ne travailliez pas et déclenche une alarme pour vos supérieurs.
Si vous ne respectez pas Flide Time - même si vous l'avez dépassé de cinq minutes - le lendemain, vous serez convoqué à une réunion disciplinaire avec un chef d'équipe et un point sera inscrit à votre dossier. Si vous accumulez trois points en l'espace de six mois, vous pouvez être licencié.
J'ai déjà eu des ennuis parce que j'avais manqué Flide Time. On vous fait venir dans un autre bureau et on vous demande : « pourquoi n'avez-vous pas apporté de modifications au logiciel pendant 15 minutes ? » En fait, on peut être licencié pour avoir passé trop de temps dans la salle de bains.
Nous avons vraiment l'impression d'être des fourmis ouvrières.
Les experts et les défenseurs de la vie privée dénoncent cette pratique et appellent à une réglementation visant à l'interdire. Pour l'employé de Tesla, il s'agit d'une douche froide. Il a déclaré lors de son entretien : « mon expérience chez Tesla a été différente de ce que j'avais imaginé lorsque j'ai commencé. Je pensais qu'il...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
, je pense que tu es imbattable. (Tu vois, les mots ont de l'importance)
, que signifie-t-il ?