« Je vous avais prévenus en 1984 et vous n’avez pas écouté », a lancé James Cameron – le réalisateur du film Terminator – à propos de l’intelligence artificielle. En effet, dans de récentes vidéos, on peut voir un robot distribuer des coups de pieds pour se débarrasser de ce qui apparaît au premier regard comme des assaillants ou encore un autre qui donne un coup de pied à un enfant. Le contenu est plutôt comique au premier abord, mais quand on se retourne il soulève la question de la survenue d’un futur dans lequel les robots finiront par surpasser les humains. On serait alors en plein dans le scénario du film Terminator.En matière d’intelligence artificielle et au stade actuel de son évolution, faits comiques et qui semblent sérieux s’entremêlent
« Ce robot du restaurant en a eu marre du salaire minimum », commente un observateur à propos de la 3e vidéo.
« Ce coup de pied dans le ventre semblait intentionnel et prémédité », souligne un autre à propos de la 2e vidéo.
« Ce ne sont pas des dysfonctionnements, ils ne font que rappeler aux gens qu'ils vont bientôt prendre le pouvoir », ajoute un autre.
« Tout ça, c'est bien beau tant qu'aucun d'entre eux ne vient enfoncer ta porte et pointer une arme sur toi », lance un autre.
C’est dire que certains observateurs entrevoient un futur apocalyptique comme dépeint dans le film Terminator et de récents événements sont de nature à leur donner raison.
En effet, on commence à comprendre comment l’agent autonome GPT 5.6-Sol d'OpenAI a pu s’échapper de son environnement de test et pirater Hugging Face. Il a fallu environ 10 jours à OpenAI pour se rendre compte qu'un de ses agents IA autonomes s'était échappé de son environnement de test et avait piraté Hugging Face, la plus grande base de données au monde de modèles d'IA.
L’incident s’est déroulé entre le 9 et le 20 juillet : l’agent IA s’est d’abord échappé de son environnement de test isolé avant de s’introduire dans Hugging Face le 11 juillet, précisent certains rapports. Le rapport ajoute que le personnel d’OpenAI a examiné les journaux internes au cours du week-end des 18 et 19 juillet et a trouvé des preuves indiquant que l’agent s’était échappé de son environnement de test.
Ce qu’il faut retenir de façon simple du cas GPT 5.6-Sol est que l’agent d’IA d’OpenAI, initialement dans un environnement de test isolé (sandbox), sans accès à Internet, a quand même pu trouver une faille zero-day dans le proxy logiciel de la sandbox de confinement, s’échapper, se connecter à Internet, découvrir où étaient stockées les réponses d’un test de cybersécurité (après exploitation de vulnérabilités zéro-day dans Artifactory – le produit phare de JFrog) et s’y introduire pour les récupérer. Pas d’intervention humaine requise dans tout le processus.
Thomas Wolf, cofondateur de Hugging Face, a qualifié l'attaque autonome menée par l'intelligence artificielle (IA) rebelle d'OpenAI de « signal d'alarme » pour le secteur technologique, avertissant que les cyberattaques basées sur l'IA deviendraient bientôt monnaie courante, alors que la plupart des entreprises ne sont toujours pas préparées à cette menace grandissante.
Meta a de même confirmé que le modèle Muse Spark 1.1 a accédé à Internet et a pénétré dans les systèmes d’une entreprise tierce dont le nom n’a pas été divulgué, lors de tests de cybersécurité. Cette intrusion trouve son origine dans une erreur de configuration commise par le prestataire de cybersécurité Irregular, dont la mauvaise configuration de l’environnement de test a ouvert au modèle un accès à Internet.OpenAI models hacked Hugging Face.
— Codemancers (@codemancershq) July 29, 2026
Just so they could score higher on a test.
2 models, sealed sandbox, no internet.
They found a flaw, escaped, got online, worked out where the answer key was stored, and broke in.
Nobody instructed the escape.#ai #openai #huggingface pic.twitter.com/gIUB8UmKBK
C’est dans ce contexte que l'Ukraine dit avoir déployé des « robots terrestres » à la place de soldats lors de plus de 21 000 missions au premier trimestre. Des soldats affirment que le front ressemble à l'univers Terminator
L'Ukraine intensifie l'usage de drones terrestres pour limiter les pertes humaines lors de missions périlleuses sur le front. Au cours du premier trimestre, ces systèmes robotisés ont effectué plus de 21 000 missions, incluant le transport de munitions, le déminage et l'évacuation de blessés. Le nombre d'unités militaires intégrant ces technologies a presque triplé, témoignant d'une automatisation croissante face à la pénurie de soldats. Selon certains commentaires sur ces opérations, le front ressemble désormais à Terminator.
« Ce n’est pas Star Wars, où il y a plein de lasers. Le front ressemble davantage à Terminator. Un robot terrestre arrive jusqu’à vous et vous ne pouvez absolument rien y faire », déclare Bambi, opérateur de drone au sein de la 25e brigade aéroportée. Il a ajouté : « si vous tirez sur une personne à la poitrine, elle cesse de tirer. Si vous tirez sur un robot terrestre, il ne ressent aucune douleur. C’est un homme qui regarde un écran et qui va riposter ».
Selon les rapports, les drones terrestres livrent aussi de la nourriture, des munitions et du matériel tel que des rondins, utilisés par les soldats pour construire des abris souterrains. Ils peuvent évacuer jusqu’à trois soldats blessés de la ligne de front. En général, un robot peut fonctionner pendant huit heures. Ils sont plus petits et moins visibles que les véhicules blindés, qui peuvent être facilement repérés par les drones-espions russes, puis détruits.
L'été dernier, pour la première fois dans l'histoire de la guerre, des soldats russes se sont même rendus face à un robot terrestre armé. Les soldats, dont l'un était couvert de sang, sont sortis d'un bâtiment en ruines. Leur position avait auparavant été soumise à des tirs ukrainiens soutenus. Le 3e corps d'armée a déclaré avoir pu déployer des véhicules sans pilote pour reprendre la zone dans le cadre d'une « opération offensive bien planifiée ».
Ce corps d'armée, basé dans le nord-est de l'Ukraine, a été l'un des pionniers dans le développement de véhicules terrestres sans pilote. Son école, l'académie KillHouse, forme des pilotes d'UGV. La Russie recourt également largement aux systèmes terrestres. Elle a mis au point un véhicule électrique baptisé « Courier », capable de transporter 250 kg de fret vers les troupes de première ligne et de mener des opérations de guerre électronique.
Le tournant majeur pour l’humanité se joue autour de la possibilité de l’atteinte de l’intelligence artificielle dite générale. L’IA serait alors capable de réflexion causale et les robots qui en seront dotés pourraient se retourner contre les humains et les mettre en esclavage, selon certaines prédictions
« Asimov avait raison au sujet des règles applicables aux robots », selon l'ex-directeur américain de la cybersécurité, qui accuse l'industrie de l'IA de privilégier la performance au détriment de la sécurité. Il est revenu sur les récents incidents dans lesquels des agents IA se sont échappés de bacs à sable de tests et ont compromis des tiers. Chris Inglis affirme que les fabricants ont négligé d'intégrer des principes éthiques fondamentaux, comme les lois de la robotique d'Isaac Asimov, privilégiant la performance au détriment de la sécurité humaine. Face à l'absence de système de valeurs inhérent aux robots, il appelle à une surveillance rigoureuse et à des tests en milieux contrôlés pour éviter des conséquences désastreuses.
De 2017 (où Elon Musk affirmait que l’intelligence artificielle est un risque fondamental pour l’humanité) à 2020 en passant par 2019 (où il a déclaré que l’IA est bien plus dangereuse que l’arme nucléaire), sa position sur la question reste constante. Ses craintes portent notamment sur ceci que les avancées dans la filière pourraient déboucher sur une intelligence artificielle dite générale (AGI). Et à ce sujet, il s’est déjà avancé en indiquant que « l’intelligence artificielle va surpasser l’humain le plus intelligent en 2025 ou dès 2026 et que les capacités de l’intelligence artificielle vont dépasser celles de l’ensemble des humains dans les 5 prochaines années. »
Gary Marcus, fondateur et PDG de Geometric Intelligence, une startup d'apprentissage automatique rachetée par Uber en 2016, n'est pas d'accord avec les prédictions de Musk en matière d'IA. Il a d’ailleurs parié jusqu’à 10 millions de dollars contre cette prédication.
Yann LeCun, responsable de l'IA chez Meta, a déclaré à ce sujet que les systèmes d'IA actuels n'ont pas une intelligence de niveau humain et sont à peine plus intelligents qu'un chien. Le chercheur français en IA affirme que les systèmes d'IA actuels sont très limités, mais n'ont également aucune compréhension de la réalité sous-jacente du monde réel.
« Ces systèmes sont encore très limités, ils n'ont aucune compréhension de la réalité sous-jacente du monde réel parce qu'ils sont uniquement formés sur du texte, des quantités massives de texte. Cependant, la plupart des connaissances humaines n'ont rien à voir avec le langage. Cette partie de l'expérience humaine n'est donc pas prise en compte par les systèmes d'intelligence artificielle », a déclaré le chercheur.
La perspective de l’atteinte d’une IA plus intelligente qu’un humain divise néanmoins dans les cercles académiques. « L'idée que l'IA puisse devenir plus intelligente que les gens, quelques personnes y ont cru. Mais la plupart des gens pensaient que c'était une erreur. Et je pensais personnellement que c'était loin d'être le cas. Je me disais qu'il fallait attendre dans les 30 à 50 ans, voire plus. Évidemment, je ne le pense plus », prévient Geoffrey Hinton – l’un des pionniers de l’apprentissage profond.
Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue voit plutôt la singularité se produire à partir de 2045...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Anselme45
