Un contrat entre le ministère américain de la Défense (DoD) et la société RealNetworks, basée à Seattle, révèle que l'armée de l'air des États-Unis veut équiper des drones autonomes d'une technologie de reconnaissance faciale. Les drones seront utilisés par les forces d'opérations spéciales pour la collecte de renseignements et pour des missions dans des pays étrangers. Le projet suscite la crainte qu'ils puissent être utilisés pour trouver et tuer des personnes déterminées. Cela intervient peu après que la police de San Francisco a renoncé à son projet d'autoriser des robots autonomes à tuer des humains, à la suite de vives critiques.Les robots tueurs volants étaient autrefois un fantasme cauchemardesque de science-fiction, quelque chose qui n'existait que dans les films de James Cameron ou les romans de Michael Crichton. Aujourd'hui, ce n'est plus le cas. Non seulement la guerre des drones a près de vingt ans, mais des innovations à cette technologie létale sont développées en permanence. La dernière en date est le logiciel de reconnaissance des visages que RealNetworks, une société américaine de défense peu connue, développe pour le ministère américain de la Défense dans le but de faciliter les missions d'opérations spéciales conduites par l'armée de l'air des États-Unis.
La technologie est censée équiper les drones de l'armée de l'air des États-Unis. RealNetworks a remporté un contrat de 800 000 dollars il y a deux ans pour intégrer sa plateforme SAFR (Secure Accurate Facial Recognition) aux drones de l'armée de l'air. (Dans les années 1990, RealNetworks était un des premiers diffuseurs de vidéo.) Selon le contrat, SAFR sera déployé sur de petits drones autonomes pour les opérations spéciales, l'ISR (Intelligence, Surveillance and Reconnaissance), et d'autres cas d'utilisation expéditionnaire. Pour l'instant, l'on ne sait pas grand-chose sur la façon dont les États-Unis utilisent la technologie ni sur la durée de son utilisation.
Le contrat ne décrit pas l'installation d'un logiciel de reconnaissance faciale sur les grands drones Predator et Reaper qui décideront qui assassiner dans une zone de guerre. Elle sera installée sur de plus petits drones de reconnaissance lors d'opérations dans des pays étrangers. Cela nécessitera l'intégration du logiciel SAFR à la pile matérielle et logicielle des petits drones, y compris leurs ordinateurs de bord, les systèmes de communication et le logiciel du contrôleur à distance. Cela permettra de fournir des informations exploitables aux opérateurs humains à distance et d'ouvrir la possibilité d'une réponse autonome en temps réel par le robot.
Une chose est sûre, cependant, elle donne la chair de poule aux gens. La révélation du contrat a suscité un tollé et fait l'objet de critiques de la part de la communauté. « L'armée de l'air américaine vient de combiner IA, robotique, capteurs, drones et reconnaissance faciale dans un même projet. Ajoutez-y de l'énergie solaire ou un petit réacteur nucléaire et des techniques de repérage développées par les agences de renseignement, et vous obtenez une machine à assassiner patiente et efficace », a écrit un critique. L'organisation de protection de la vie privée EPIC a également critiqué le contrat et a dénoncé les implications éthiques de la technologie.
Nicholas Davis, de l'Université de technologie de Sydney, a critiqué le contrat en déclarant : « les implications éthiques sont innombrables, de la manière dont ces dispositifs pourraient redistribuer le pouvoir ou menacer des groupes au sein d'une société, à la manière dont ils menacent le droit humanitaire international établi dans les zones de conflit ». Selon certains experts, il est difficile de deviner les réelles motivations derrière ce contrat. Les petits drones de l'armée américaine ne sont généralement pas armés. Les petits drones comme le RQ-11B Raven sont souvent lancés à la main par des soldats sur le terrain et utilisés pour la reconnaissance.
Étant donné que les unités d'opérations spéciales sont surtout connues pour leurs activités clandestines et meurtrières (lire : assassinats et raids), le déploiement d'un robot aérien doté d'une intelligence artificielle et d'une technologie de reconnaissance faciale signifie que les escadrons des forces spéciales des États-Unis disposent désormais d'un nouvel outil puissant pour accomplir leurs missions, parfois sombres actions. D'autres experts notent que ces drones pourraient facilement être utilisés pour "le renseignement et l'acquisition de cibles", ce qui signifie que quiconque est suivi par ces petits engins a probablement une cible dans le dos.
Plus précisément, il est possible que ce logiciel soit utilisé pour identifier des cibles, mais c'est un autre humain - ou une autre machine - qui appuiera sur la gâchette. Les drones plus grands identifient aujourd'hui les cibles grâce à une combinaison de caméras à haute puissance et de suivi par téléphone portable. Ils font des erreurs en permanence. Depuis des années, les experts s'inquiètent de l'intégration de la reconnaissance faciale aux drones. La plupart du temps, les caméras et les capteurs utilisés pour la reconnaissance faciale n'ont pas une résolution suffisamment élevée pour fonctionner sur des drones qui volent au-dessus des gens.
Ce contrat suggère que la technologie s'est améliorée. À première vue, il semble que l'utilisation d'un logiciel de reconnaissance facial aiderait les utilisateurs de drones à faire moins d'erreurs. Mais ces logiciels sont aussi connus pour être défectueux et sujets à des erreurs et à nombreux biais, et le déploiement de la reconnaissance faciale est une étape sur la voie des drones entièrement autonomes. « Le plus effrayant dans cette évolution, franchement, c'est que ce n'est clairement que le début de la course pour rendre les drones plus rapides, plus intelligents, plus sophistiqués et, potentiellement, plus meurtriers », a commenté un critique.
« Qu'il s'agisse de la guerre d'essaims de drones prévue par la marine, de l'utilisation accrue de drones dans le conflit russo-ukrainien ou du spectre de robots volants qui pourraient être équipés de charges chimiques ou biologiques, préparez-vous à voir vos pires cauchemars de science-fiction se réaliser », a-t-il ajouté. Par ailleurs, il ne s'agit pas nécessairement d'un développement unique. En 2021, les Nations unies ont publié un rapport affirmant que le Premier ministre libyen, en proie à une guerre civile, avait ordonné que des drones perfectionnés et au moins un drone quadcopter de fabrication turque soient chargés de munitions.
Ils auraient également été équipés d'un logiciel de reconnaissance faciale. Et bien qu'il n'y ait pas un lien direct, le Bureau du directeur du renseignement national (ODNI) des États-Unis a signé un certain nombre de contrats de recherche en 2022, cherchant des moyens de mieux reconnaître les personnes marchant sur le sol de loin et d'une certaine hauteur dans les airs. La recherche, connue sous le nom de "Biometric Recognition & ID at Altitude and Range", est en cours dans un certain nombre d'universités américaines.
Source : contrat entre le ministère américain de la Défense et la société RealNetworks
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
Les robots de la police de San Francisco sont autorisés à tuer dans des situations dangereuses, selon un projet de politique approuvé à l'unanimité par le conseil de surveillance de la ville Des images montrent un char robot piloté par l'IA qui fait exploser des voitures, soulevant à nouveau les craintes sur la prolifération des armes létales autonomes Course aux armements : l'Organisation des Nations Unies échoue à nouveau dans l'établissement de règles internationales contraignantes, visant à interdire l'utilisation des robots tueurs autonomes Les USA, la Chine et une soixantaine d'autres pays appellent à une utilisation « responsable » de l'IA militaire. Les critiques notent que cette déclaration n'est pas juridiquement contraignante Israël déploie des armes assistées par l'IA pour traquer des cibles en Cisjordanie, et suscite de nouvelles préoccupations sur la prolifération des armes létales autonomes