Robots tueurs : la France dans la course à l'IA militaire, une enquête ARTE

12 mars 2022, 17e jour de la guerre en Ukraine. Un drone de moins d'un mètre d'envergure s'écrase dans Kiev. Il ne transporte aucune munition — il en est une. Le Kube BLA, munition rodeuse dite "drone kamikaze", peut être dirigé par une intelligence artificielle. Selon le documentaire ARTE Robots tueurs, des armes aux mains de l'IA, cet engin marque un bond technologique qui changera à jamais le visage des conflits. La France, via Nexter, Thales et Airbus, est déjà engagée dans cette course. Mais les questions éthiques, juridiques et stratégiques restent, à ce stade, largement ouvertes.

L'engrenage : des drones aux systèmes autonomes

Le 12 mars 2022, un drone Kube BLA s'écrase à Kiev. Selon le documentaire ARTE, c'est une "munition rodeuse" — elle survole une zone de façon autonome, détecte sa cible et s'écrase dessus. L'événement passe quasi inaperçu dans le chaos de l'invasion russe. Pourtant, il illustre une réalité que des experts tentent d'alerter depuis des années : l'intelligence artificielle est en train de révolutionner les systèmes d'armement.

Les systèmes d'armes létales autonomes (LAWS) peuvent sélectionner et attaquer une cible sans intervention humaine. On les appelle aussi "robots tueurs". Pour l'instant, selon le documentaire, ils sont rarement tout à fait autonomes — mais la voie est tracée.

Ulf Franke, chercheuse au Conseil européen pour les relations internationales (ECFR), explique que l'Europe a d'abord pensé aux répercussions économiques et sociales de l'IA. Les États-Unis, eux, ont tout de suite entrevu une question de sécurité. Résultat : "Beaucoup de gouvernements européens sont encore réticents à utiliser les LAWS dans le domaine militaire. Le problème, c'est que le reste du monde le fait."

Les faits sont têtus. La guerre en Ukraine a agi comme un accélérateur. Le 27 février 2022, le chancelier allemand Olaf Scholz annonce un "Zeitenwende" — un tournant historique — et un fonds spécial de 100 milliards d'euros pour la Bundeswehr. Mais selon Marcos Reisner, colonel de l'armée fédérale autrichienne et expert très demandé depuis ses analyses du conflit ukrainien, injecter 100 milliards ne garantit pas que le cap sera changé. "Il faut imaginer les forces armées allemandes comme un gigantesque tanker", dit-il dans le documentaire. "Que le ministre de la Défense Boris Pistorius voudrait faire changer de cap. Il appuie de toutes ses forces sur le gouvernail. Reste à savoir combien de temps il faudra à ce tanker pour s'engager véritablement dans cette nouvelle direction."

Nexter et l'Opsio X20 : la France dans la course

La France, selon le documentaire ARTE, fabrique la quasi-totalité des équipements nécessaires à son armée. Le groupe d'armement Nexter produit toute une gamme de technologies militaires. Sa branche Nexter Robotics se consacre aux robots pour l'armée, les sapeurs-pompiers et les unités spéciales de la police.

"La France et l'armée française a clairement fait le choix d'exploiter la robotique pour différentes applications : le transport logistique, la reconnaissance, bien entendu des robots armés", explique un représentant de Nexter. Cela inclut des engins comme l'Opsio X20, un robot tactique polyvalent armé.

Concevoir un tel engin n'est pas simple. "La plupart des robots utilisés actuellement par les opérationnels, les militaires, la police ou les secours sont des robots télécommandés", poursuit le représentant. "L'enjeu, c'est d'augmenter l'autonomie, faire en sorte qu'ils puissent faire de plus en plus de tâches seuls. Pour ça, on va faire appel entre autres à l'intelligence artificielle."

Le défi technique est immense. Sur un théâtre d'opération, le GPS peut être brouillé. "On considère ça comme un acquis que le GPS ne va pas fonctionner", explique Nexter. "Le robot ne sera pas capable de se localiser à partir d'un système de navigation globale. C'est pourquoi on travaille à développer des fonctions qui vont lui permettre de se repérer dans un environnement même local."

Mais les militaires veulent garder le contrôle. "L'idée, c'est d'avoir une répartition des rôles entre l'homme et le robot", précise Nexter. "Un niveau de supervision avec l'opérateur de plus en plus limité, mais pour des applications militaires, on ne va pas forcément chercher l'autonomie complète."

La start-up à 2,3 milliards : Shield AI

Aux États-Unis, la course est bien plus avancée. Shield AI, start-up créée en 2015 avec 100 000 dollars de capital, est aujourd'hui valorisée 2,3 milliards de dollars. Brandon Zeng, l'un de ses fondateurs, explique : "À quoi ressemblera un militaire en 2030 ? On imagine que l'IA sera aux commandes de tout. Avions, destroyers, croiseurs, porte-avions, sous-marins — probablement tous pilotés par une intelligence artificielle."

Le premier produit de Shield AI est un quadcoptère équipé d'une IA de pilotage appelée Hivemind. "Quand le drone pénètre dans un bâtiment où les signaux GPS et radio ne passent pas, on perd la communication", explique Zeng. "L'IA le fait passer par les portes et fenêtres. Dès que la communication est rétablie, il transmet ce qu'il a vu aux hommes qui attendent d'entrer."

Un an après son introduction sur le marché, Shield AI a signé son premier contrat avec le Pentagone. Aujourd'hui, l'entreprise projette d'intégrer ses IA de pilotage dans des avions de chasse. "Les pilotes de chasse ne peuvent encaisser qu'un certain nombre de G", note Zeng. "Un appareil autonome n'est pas soumis aux limites du corps humain."

Le dilemme européen : Hensoldt et le FCAS

En Europe, l'Allemagne n'est pas en reste. Hensoldt, entreprise d'électronique militaire et de défense, développe des technologies de détection dans le spectre électromagnétique. Ses capteurs équipent chars, hélicoptères, avions, installations de protection des frontières. Depuis le début de la guerre en Ukraine, le cours des actions Hensoldt a grimpé en flèche.

"L'intelligence artificielle joue un rôle très important pour nous", explique un représentant de Hensoldt. "Notre commerce consiste à capter des signaux et à traiter des données. Pour traiter des données, on a toujours utilisé des algorithmes. L'IA, ce sont des algorithmes encore plus rapides et plus intelligents."

Avec Airbus et d'autres, Hensoldt travaille déjà au Future Combat Air System (FCAS), l'avion de chasse de 6e génération. "On parle d'un système de systèmes", explique Hensoldt. "Les avions de chasse du futur seront de plus en plus reliés à un réseau. Nous pouvons obtenir des informations à partir de millions de capteurs. Chaque personne qui a un smartphone prend une photo et la poste sur Instagram — cela nous fournit des informations."

La quantité de données collectées est exorbitante. Les systèmes interconnectés comme le FCAS sont impensables sans IA. Mais la question de la fiabilité reste entière.

Le cauchemar des "Flash Wars"

Le documentaire ARTE explore les scénarios les plus inquiétants. "Ce que je crains, ce sont plutôt les Flash Wars, les guerres éclairs", explique un expert. Le concept vient du domaine boursier : un "krach éclair" survient quand un marché où interviennent de nombreux algorithmes s'effondre brutalement à cause d'un événement imprévu.

"L'idée derrière les Flash Wars, c'est qu'à l'avenir, si des États employaient des systèmes d'armement très autonomes, où le contrôle humain est très réduit, on pourrait se retrouver dans une situation où ces systèmes interagiraient et déclencheraient une guerre qu'on ne voulait pas déclencher."

Un scénario de perte de contrôle totale. Des guerres d'une vitesse foudroyante.

Le documentaire rappelle que les Russes ont déjà mis au point le système "Périmètre", surnommé "Dead Hand" (main morte). L'idée : si les Américains utilisaient l'arme nucléaire contre eux, même si la population russe était anéantie, le système pourrait déclencher de lui-même une contre-attaque. Ce mécanisme de riposte autonome remonte à l'Union soviétique et serait encore pleinement fonctionnel.

Aujourd'hui, la menace nucléaire ne fait que s'aggraver avec les nouveaux systèmes d'IA. "On peut imaginer que l'IA, combinée à des systèmes de détection perfectionnés, pourrait potentiellement rendre les océans transparents", explique un expert. "Cela remettrait en question les stratégies de dissuasion nucléaire, car certains pays ont caché des armes nucléaires dans des sous-marins pour s'assurer une capacité de riposte. Si les océans devenaient transparents, cela sonnerait le glas de ces cachettes."

Sans équilibre de la terreur, l'utilisation d'armes nucléaires redevient envisageable.

La dérive de Hacking Team : le marché des cyberarmes

Le documentaire ARTE établit un parallèle entre le marché des cyberarmes et celui de la robotique militaire. Alberto Pelicone, ancien employé de Hacking Team, témoigne. Hacking Team était une agence européenne qui développait des logiciels espions — des "vecteurs d'infection" installés sur des ordinateurs, des téléphones ou des serveurs.

"Pendant les trois premières années, j'avais la sensation que nous faisions quelque chose de bien", raconte Pelicone. "Mais ensuite, le marché a changé. Les gouvernements européens ont commencé à développer leurs propres logiciels espions en interne. La clientèle de Hacking Team venait de plus en plus de pays qui avaient des valeurs morales et éthiques extrêmement différentes des nôtres."

De plus en plus d'articles dénoncent le lien entre les logiciels Hacking Team et des opérations contre des activistes et des journalistes. "Il apparaissait que dans 9 cas sur 10, notre produit était utilisé à mauvais escient", dit Pelicone. "Je ne me sentais plus bien dans ma peau."

La suite est édifiante. "Comme il y a 10 ans avec le marché des cyberarmes, une vague de changement déferle avec le marché de la robotique, accélérée par une nouvelle situation sécuritaire", conclut le documentaire.

Le contrôle humain : une illusion ?

Au cœur du débat : la question du "meaningful human control" — le contrôle humain significatif. "On reproche souvent à l'intelligence artificielle moderne l'extrême difficulté que l'on a à comprendre comment elle en arrive à telle ou telle décision", explique un expert. "Quand on conçoit ces systèmes, on doit s'assurer que les humains puissent comprendre ce qui se passe, comprendre le contexte dans lequel l'arme est déployée, et avoir la possibilité d'intervenir."

Mais le problème est plus profond. "Quand l'ordinateur a déjà tout fait et qu'en fin de processus, il dit à l'humain : 'Voilà ta cible, veux-tu l'attaquer ?', on n'est plus du tout dans le meaningful human control", explique un autre expert. "Le contrôle humain perd tout son sens, car l'humain n'est pas en mesure d'évaluer les informations que lui fournit l'ordinateur."

Comment l'humain peut-il remettre en question les conclusions de l'IA sans savoir comment elle en est arrivée à ces conclusions ? L'humain est-il en passe de n'être plus qu'un rouage d'une machine à tuer autonome ? Voilà.

Ce que ça dit de la France et de l'Europe

Le documentaire ARTE, par son traitement sobre, révèle une tension profonde dans la société française et européenne. D'un côté, le rejet de la violence hérité de l'après-guerre. De l'autre, la nécessité de se défendre dans un monde où les menaces évoluent.

"Ce dont on a peur, c'est de la violence", explique Marcos Reisner. "Notre société a grandi après la fin de la Seconde Guerre mondiale dans le rejet de la violence. Quand on en arrive à une escalade comme actuellement, où nous sommes quasiment en guerre, alors ces nouvelles armes ne sont peut-être plus de la science-fiction pour les soldats. En revanche, ça reste quelque chose que la société connaît mal et qu'elle a du mal à accepter."

Le paradoxe est saisissant. Les démocraties occidentales, où la volonté de prendre les armes n'a jamais été aussi faible, sont tentées de laisser des drones mener les guerres à leur place. "On serait finalement bien tenté de laisser des drones mener les guerres à notre place", note le documentaire.

Mais la guerre reste sale. "C'était le grand espoir des 20 dernières années que la guerre puisse devenir plus propre grâce au recours à des systèmes d'armement de précision, possiblement équipés d'une certaine intelligence", explique un expert. "Mais quand on regarde ce que les soldats subissent sur place, on voit que la guerre n'a pas changé. On meurt et on souffre tout autant qu'il y a des siècles."

La France, via Nexter, Thales et Airbus, est engagée dans cette course. Mais à ce stade, selon le documentaire ARTE, les questions éthiques, juridiques et stratégiques restent largement ouvertes. Les circonstances exactes du développement de ces systèmes, les décisions politiques qui les encadrent, et les garde-fous mis en place — ou non — ne sont pas documentés par cette seule source.

Et maintenant ?

Le documentaire ARTE pose plus de questions qu'il n'apporte de réponses. Une certitude : la course à l'IA militaire est lancée. La France et l'Europe sont dans la compétition, mais avec un retard assumé et une réticence culturelle.

Les risques sont identifiés : prolifération terroriste, piratage, guerres éclair, perte de contrôle humain. Les bénéfices potentiels aussi : réduction des pertes civiles, précision accrue, protection des soldats.

Mais comme le rappelle un expert : "On est face à un dilemme. D'un côté, la course à l'armement. Si les autres possèdent un système supérieur au nôtre, on ne veut pas rester en rade. Alors on fait tout pour les égaler, voire les surpasser. Et on se retrouve dans une spirale infernale dont il est très difficile de ressortir. De l'autre, il y a la raison. Il n'y a que l'entendement humain qui puisse dire 'Stop, attention, on est en train de développer des choses qu'on ne contrôle plus'."

La question est posée. La réponse, pour l'instant, n'est pas dans le documentaire. Les faits sont têtus : la technologie avance. Reste à savoir si l'humanité — et la France en particulier — saura mettre en place les garde-fous nécessaires avant qu'il ne soit trop tard.

Sources :

• ARTE (YouTube) : Robots tueurs, des armes aux mains de l'IA | Documentaire