L’esprit critique ne prend pas de vacances ! Abonnez-vous à Books !

Guerre : l’ère des robots

Les drones sont désormais utilisés de manière routinière par l’armée américaine et la CIA pour détruire des cibles humaines. La robotique militaire fait des pas de géant, avec des retombées à usage civil. Aubaine ou cauchemar ?

Les drones sont à la une. Nous lisons chaque jour le récit d’attaques contre des cibles terroristes dans les zones tribales du Pakistan, effectuées par des avions télécommandés sans pilote (UAV). L’été dernier, les États-Unis ont utilisé des Predator contre des militants islamistes en Somalie. L’Otan a envoyé des UAV en Libye. Des drones furtifs dernier cri ont effectué la reconnaissance de la maison où vivait Oussama Ben Laden avant que les forces spéciales montent leur fameux raid. Le chef du contre-terrorisme à la Maison-Blanche, John Brennan, a récemment précisé que ces appareils continueraient de jouer un rôle de premier plan dans la stratégie antiterroriste de l’administration Obama. Et, le 22 août 2011, un drone de la CIA a tué le numéro 2 d’al-Qaida dans les montagnes du Pakistan (1). La plupart d’entre nous avons entendu dire à quel point cette technologie est extraordinaire. Bon nombre des frappes d’UAV en Asie du Sud sont téléguidées par des opérateurs installés derrière leurs consoles aux États-Unis. Dans Predator (2), le colonel de l’armée de l’air Matt Martin offre un témoignage unique de l’étrange « schizophrénie » induite par ce nouveau type de guerre. Tandis que son corps occupe un siège dans une salle de commande de la base de Nellis, au Nevada, son esprit est très loin de là, occupé à suivre un 4 x 4 suspect sur une route du désert irakien ou un groupe de talibans le long d’une crête en Afghanistan. « En parlant de moi et du Predator, je me suis mis à dire “je”, bien que l’appareil soit à des milliers de kilomètres », se désole-t-il. Et quand il prévient les marines au sol qu’il arrive sur zone en Afghanistan, il doit garder en tête qu’il n’arrive, en réalité, nulle part et reste assis sur son siège, à la base. « Il n’était qu’un peu plus de midi au Nevada, écrit-il, mais en voyant toute cette neige et cette obscurité dans les environs de Kaboul, j’avais déjà sommeil. » Légitime confusion : l’incroyable acuité de vision procurée par les caméras vidéo du Predator lui permet de voir celui qu’il surveille allumer une cigarette, aller aux toilettes ou avoir une aventure amoureuse avec quelque animal à l’autre bout du monde sans que l’individu en question s’en doute une seule seconde. Même si son domicile et son épouse ne sont qu’à quelques minutes en voiture de son poste de combat, Matt Martin n’est pas aussi détaché de ses actions qu’on pourrait le supposer. Certes, les attaques du Predator sont étonnamment précises, mais la violence de la guerre ne peut jamais être complètement évacuée. Les scènes les plus troublantes du livre évoquent les sentiments du colonel lorsque des civils innocents s’aventurent dans sa ligne de mire quelques secondes avant que son missile Hellfire atteigne son objectif. Pendant la Seconde Guerre mondiale, les pilotes de bombardiers alliés ont tué des millions de civils, mais ils ont rarement eu l’occasion d’observer les résultats par eux-mêmes. Les opérateurs de drones travaillent avec bien plus d’exactitude mais, par une étrange ironie du sort, ils peuvent voir leurs victimes fortuites avec une insoutenable précision – comme ces deux petits garçons et leurs bicyclettes pulvérisés, dans l’un des exemples les plus tragiques évoqués par Matt Martin. Les études de l’armée montrent d’ailleurs que les opérateurs de drones souffrent parfois du même « stress du combat » que les autres soldats. L’armée américaine ne fait pourtant rien pour discréditer l’idée que cette forme de guerre à distance a beaucoup en commun avec la culture des jeux vidéo, dans laquelle ont baigné bien des jeunes opérateurs. Comme un chercheur en robotique militaire l’explique à Peter Singer, l’auteur de Wired for War : « Nous avons conçu la manette d’après la PlayStation parce que ces marines de 18 ou 19 ans y ont joué pratiquement toute leur vie. » Et, aujourd’hui, bien sûr, certains jeux vidéo mettent en scène des drones : la technologie imite le réel qui imite la technologie.   Quand les drones mettront les PV Ce n’est pas leur armement qui rend ces appareils si remarquables : les missiles qu’ils transportent n’ont rien d’exceptionnel, et même les modèles les plus grands sont relativement peu armés. Ils ne sont pas non plus très rapides ni agiles. Leur puissance tient en fait à leur capacité de voir et de penser. La majorité des plus gros drones américains décollent, atterrissent et volent tout seuls. Les opérateurs programment la destination ou la zone de patrouille, puis ils peuvent se concentrer sur les détails de la mission tandis que l’appareil se charge du reste. Avec leurs capteurs et leur technologie vidéo de pointe, les UAV percent les nuages ou l’obscurité. Ils sont capables de survoler un objectif pendant des heures, voire des journées entières – ce qui ferait périr d’ennui n’importe quel aviateur. Jusque-là, tout va bien. Mais il y a aussi un certain nombre de choses que la plupart d’entre nous n’avons jamais entendu dire au sujet des drones. Par exemple que l’armée de l’air américaine forme désormais chaque année plus d’opérateurs que de pilotes traditionnels. Et, à l’heure où j’écris ces lignes, l’industrie aérospatiale a cessé tout travail de recherche et développement sur les avions habités : les projets actuellement à l’étude ne concernent que des véhicules sans pilote (3). Pendant ce temps, les forces de l’ordre du pays attendent avec impatience le moment où elles pourront disposer de leurs propres UAV. Le bureau fédéral de l’aviation civile met actuellement au point les règles qui permettront à la police d’utiliser au plus vite ces appareils (peut-être dès 2014). Bientôt, beaucoup plus tôt qu’on ne l’imagine, les PV pour excès de vitesse seront envoyés par SMS depuis un drone en patrouille quelque part au-dessus de l’autoroute. Quant aux douanes, elles se sont déjà servies de ces engins pour traquer discrètement les bateaux transportant de la drogue, qui échappent facilement aux appareils classiques, plus bruyants. Les appareils volants sont ceux dont on parle le plus. Mais les avions sans pilote ne représentent qu’une petite partie de la robotique militaire. Peter Singer me confiait ainsi récemment qu’il existe déjà plus de robots au sol (15 000) que dans les airs (7 000). L’armée américaine utilise ses soldats mécaniques pour détecter et désarmer les bombes placées au bord des routes, passer en revue le champ de bataille ou détruire des obus en vol. Si ces engins terrestres paraissent un peu plus primitifs que leurs cousins aériens, ils sont en train de combler très rapidement leur retard. Parmi les modèles à l’étude, on compte ainsi l’étrange BigDog [« Gros Chien »], un inquiétant quadrupède zoomorphe conçu pour aider les soldats à transporter de lourdes charges en terrain difficile, ou le Bear [« Ours »], une machine à chenilles vaguement humanoïde capable de soulever plus de 200 kilos. L’US Navy est, elle aussi, en train de tester ses propres appareils. Elle a récemment présenté un jet-ski robot conçu pour débusquer des agresseurs susceptibles d’approcher sous l’eau, sans bruit, des navires américains. La marine a aussi mis au point des voiliers d’allure inoffensive (et écologiques), bourrés d’un équipement de surveillance extrêmement sophistiqué et capables de naviguer tout seuls autour du monde. Des robots submersibles sont également à l’étude. Affranchis des besoins biologiques des sous-marins habités, ces espions automatisés pourraient passer des mois en patrouille sous l’eau, et se poser au fond de ports ennemis pour y observer les entrées et les sorties. L’autonomie de leurs ba
tteries est la principale contrainte. Les scientifiques tentent de résoudre le problème en donnant aux drones submersibles la possibilité de se nourrir de la matière organique présente sur le fond marin. Pour l’heure, aucun de ces robots navals ne semble muni de torpilles. Mais l’armée de terre est déjà en train de tester des machines capables de tirer. Dans son livre, Peter Singer décrit le SWORDS (« Special Weapons Observation Reconnaissance Detection Systems »), un véhicule à chenilles équipé d’une flopée de caméras capables de voir plus loin que l’œil humain, même en couvrant plusieurs angles. L’engin peut être doté d’une mitrailleuse calibre 50 ou d’une variété d’autres armes, parfaitement synchronisées avec le téléobjectif. Ce qui en fait une plateforme de tir beaucoup plus stable qu’un corps humain qui respire, allongé sur le ventre au milieu d’un champ de bataille, mou, vulnérable, et apeuré. « Lors d’un des premiers tests de ses fusils, écrit Peter Singer, le robot a mis dans le mille 70 fois sur 70. Avec des roquettes, il a fait mouche 62 fois sur 62. Avec des fusées antichars, 16 fois sur 16. Un ancien sniper de la marine a qualifié d’“épouvantable” la précision “chirurgicale” du robot. » Cela fait deux ans seulement que Peter Singer a décrit ce système. Mais, dans le monde fébrile de la robotique militaire, c’est déjà loin, et nous ne pouvons que présager des progrès accomplis depuis par SWORDS. Des chercheurs expérimentent à présent des avions sans pilote qui imitent les oiseaux-mouches ou les mouettes. L’un des modèles en chantier peut se fixer sur une gomme. On spécule activement sur le regroupement de petits drones ou robots en « essaims » – des nuées ou des multitudes de machines qui mettraient en commun leur intelligence, comme dans une ruche, et pourraient converger instantanément sur des cibles identifiées. Cela peut sembler de la science-fiction, mais nous n’en sommes probablement plus très loin. À l’ETH de Zurich, l’équivalent suisse du MIT, des ingénieurs ont relié des quadricoptères miniatures (drones équipés de quatre rotors pour une maniabilité maximale) en petits réseaux capables de jouer habilement au ballon sans intervention humaine.   Attaques de plus en plus précises Cette technologie sidère. Elle ouvre des perspectives séduisantes et aguiche par l’apparente invulnérabilité qu’elle offre. Les talibans n’ont pas d’aviation. Leurs fantassins ne peuvent voir ni la nuit ni à travers un ciel couvert, mais ils entendent parfois les drones rôder dans le ciel pendant des heures. David Rohde, le correspondant du New York Times qui fut otage des talibans pendant sept mois, en 2009, a décrit ce que cela fait d’être au sol quand rôdent les Predator et autres Reaper : « Deux explosions assourdissantes ont fait trembler les murs du bâtiment où les talibans nous détenaient, écrit-il. Mes gardiens et moi, nous nous sommes jetés au sol tandis que des morceaux de terre étaient projetés par la fenêtre. » Un missile tiré par un drone a détruit deux automobiles à moins de 100 mètres : « C’était le 25 mars, et la présence des avions sans pilote nous terrifiait depuis des mois. On entendait parfaitement ces appareils quand ils tournoyaient au-dessus de nos têtes pendant des heures. À l’œil nu, c’étaient de petits points dans le ciel. Mais leurs missiles avaient une portée de plusieurs kilomètres. Nous savions que nous pouvions être anéantis sans préavis. […] Plus tard, j’ai appris que l’un des gardiens avait demandé qu’on m’emmène sur le site de l’attaque pour être décapité rituellement tandis qu’une caméra vidéo enregistrerait la scène. Son chef l’a désavoué. » En fait, l’attaque en question a tué sept militants et aucun civil. Comme l’écrit Rohde, la plupart des frappes sont remarquablement précises. Mais cela n’a finalement guère d’importance : « À leur suite, les talibans engrangent des recrues en exagérant le nombre des victimes innocentes. » Une observation que vient corroborer une récente enquête de Peter Bergen et Katherine Tiedemann. Ces deux analystes de la New America Foundation (4), à Washington, suivent à la trace les attaques de drones dans les zones tribales du Pakistan depuis qu’elles ont commencé, en juin 2004. Bien qu’il soit extrêmement difficile d’obtenir des informations fiables dans cette partie du monde, Bergen et Tiedemann ont minutieusement analysé les reportages, pour glaner des détails sur chaque événement. Ils concluent que les attaques sont de plus en plus précises : « Pendant les deux premières années de l’administration Obama, 85 % environ des personnes tuées par des drones étaient des talibans ; sous l’administration Bush, ils ne représentaient que 60 % des victimes. » Parallèlement, les auteurs remarquent que les frappes ont tué certainement beaucoup moins de responsables talibans que ne le prétendent les autorités américaines. La plupart des morts, constatent Bergen et Tiedemann, sont vraisemblablement des combattants de base. (Une étude plus récente du Bureau du journalisme d’investigation à Londres parvient à une proportion de victimes civiles plutôt supérieure (5).) Bien que cette exactitude soit remarquable au regard de l’histoire de la guerre, ce n’est qu’une maigre consolation pour les familles des simples passants abattus en même temps que les djihadistes. Au demeurant, comme le soulignent à juste titre Bergen et Tiedemann, la précision de l’assassinat n’est qu’un aspect secondaire de la question. L’écrasante majorité des Pakistanais sont persuadés que la plupart des victimes sont des civils – perception exacerbée par l’impunité avec laquelle les drones lancent leurs raids. Dennis Blair, directeur du renseignement national en 2009 et 2010, l’a récemment constaté dans le New York Times : « Notre dépendance à l’égard de frappes high-tech sans danger pour nos soldats provoque un énorme ressentiment dans un pays qui ne peut accomplir ce genre d’exploit guerrier sans dommages pour ses propres troupes. » (En fait, si le gouvernement pakistanais condamne en public ces attaques, ses dirigeants ont soutenu la campagne en privé, sur le plan de la logistique et du renseignement.) Le nombre d’attaques terroristes a fortement augmenté au Pakistan à mesure que se multipliaient les frappes de drones. Les conséquences politiques de cette campagne pourraient annuler en partie ses bénéfices tactiques, soulignent Bergen et Tiedemann. Pour remédier au problème, ils proposent notamment d’ôter à la CIA, actuellement en charge de l’offensive dans les zones tribales, la responsabilité du programme pour la confier à l’armée. Cela présenterait plusieurs avantages. Contrairement à l’agence de renseignements, qui nie jusqu’à l’existence même du plan et ne révèle donc rien des critères de choix des objectifs, le département de la Défense serait au moins tenu de rendre publiquement des comptes, et serait probablement plus sensible aux pressions de ceux qui veulent inscrire l’usage des UAV dans le cadre du droit international. Aux antipodes de l’utilisation qu’en fait la CIA pour les « assassinats ciblés » – d’autant que les frappes sont menées secrètement, dans des conditions troubles et mal définies, contre des objectifs situés dans des pays avec lesquels les États-Unis ne sont pas en guerre. Les enjeux juridiques sont complexes. Philip Alston, un expert chargé par les Nations unies d’étudier la question, affirme dans un rapport : « En dehors des cas de conflit armé, le recours aux drones pour des assassinats ciblés n’a presque aucune chance d’être jamais légal. » Tout dépend, bien entendu, de la manière dont nous définissons le « conflit armé », quand des groupes terroristes et des rébellions affranchies de toute appartenance étatique opèrent depuis des lieux qui échappent à l’autorité d’un gouvernement central. Selon certains experts, le droit international autorise les États-Unis à protéger leurs troupes en Afghanistan contre les attaques d’al-Qaida et de ses alliés dans les zones tribales. En revanche, la question de savoir si les frappes des drones violent la souveraineté pakistanaise dépend en grande partie des accords passés avec Islamabad – un point qui demeure quelque peu mystérieux (6). L’administration Obama pourrait clarifier la situation en précisant la logique juridique qui sous-tend le programme. Jusqu’à présent, elle s’y est refusée, si l’on excepte une brève déclaration d’un conseiller du département d’État citant le droit à la légitime défense. On ne peut donc que se féliciter de voir des spécialistes du monde entier s’engager dans un débat sur les implications juridiques des campagnes de drones. Car plus de quarante pays testent actuellement des robots militaires de leur propre cru, et les États-Unis ne sauraient conserver indéfiniment le monopole de cette technologie. Le jour approche où l’armée américaine sera attaquée par un drone – peut-être même piloté par un terroriste (7). La grande vertu du livre de Peter Singer est de se pencher aussi sur les questions éthiques et juridiques soulevées par le spectaculaire essor de la robotique militaire. Comme il l’écrit, le gouvernement américain utilise actuellement des drones pour mener une campagne militaire contre l’État souverain du Pakistan. Mais nul membre du Congrès n’a jamais requis du Président la moindre déclaration de guerre en bonne et due forme – pour la bonne et simple raison qu’aucune vie américaine n’est en jeu quand les Predator partent en mission. Mais les implications politiques dépassent déjà largement la question relativement circonscrite des assassinats ciblés. Les robots militaires sont en passe de jouir d’une autonomie considérable. Comme on l’a vu, un avion sans pilote peut déjà décoller, atterrir et voler sans intervention humaine. Le choix de la cible reste du seul ressort de l’opérateur – mais pour combien de temps ? À mesure que les capteurs deviennent plus puissants et plus variés, la quantité de données recueillies par les machines augmente de façon exponentielle : bientôt, le volume et la vitesse de transmission des informations excéderont de beaucoup la capacité humaine de toutes les traiter en temps réel. Le robot sera donc amené à prendre de plus en plus de décisions. Nous nous acheminons déjà vers des systèmes permettant à un seul opérateur de manœuvrer plusieurs drones simultanément, ce qui incitera aussi au développement de l’autonomie. Il deviendra bientôt évident que nos combattants mécaniques protègent mieux la vie de nos soldats que n’importe quel être humain. Il sera alors très difficile de ne pas laisser l’initiative aux robots. Interrogés à ce sujet, des responsables du Pentagone affirment, comme on peut s’y attendre, que la décision de tuer ne sera jamais déléguée à une machine. C’est rassurant, mais c’est facile à dire quand les robots ne sont pas encore à même de prendre des décisions sur le champ de bataille. Qu’en sera-t-il lorsqu’ils le pourront bel et bien ?   Un robot en forme de serpent Nous commençons à peine à examiner tout ce que cela signifie. Peter Singer cite Marc Garlasco, spécialiste du droit de la guerre auprès de Human Rights Watch : « Cette nouvelle technologie remet en cause certains aspects du droit international. C’est comme si l’on essayait d’appliquer un droit international écrit pour la Seconde Guerre mondiale au monde de Star Trek. » Et Singer de poursuivre : « Une prémisse des organisations de défense des droits de l’homme, et du droit international en général, veut que les soldats sur le terrain et ceux qui les commandent doivent être tenus pour responsables de toutes les violations du droit de la guerre. Les systèmes automatiques, toutefois, brouillent les notions juridiques. “Les crimes de guerre impliquent à la fois une violation et une intention, confie Garlasco. Une machine ne peut avoir la volonté de tuer des civils, elle n’a pas de désir. […] Si les robots sont incapables d’intention, sont-ils inca­pables de commettre des crimes de guerre ?” Et si la machine n’est pas responsable, à qui peut-on demander des comptes, et où fixer exactement la limite ? “Qui poursuivre ? Le fabricant, le concepteur du logiciel, l’acheteur, l’utilisateur ?” » Peter Singer fait aussi remarquer que les États-Unis ont à maintes reprises exercé un droit de légitime défense « élargi » pour leurs appareils engagés dans des conflits à travers le monde. Quand un radar ennemi détecte un avion américain, le pilote a le droit de tirer sans attendre d’être attaqué. Fort bien ! Mais imaginons qu’il s’agisse d’un drone : « Si un avion sans pilote volant près de la frontière d’un autre pays se fait tirer dessus, a-t-il le droit de riposter sur les sites de missiles de ce pays et sur les hommes qui sont derrière, même en temps de paix ? Quid, aussi, de l’interprétation “élargie” du droit de riposter à une intention hostile, quand le drone est simplement visé par un radar ? La simple menace suffit-elle pour que la machine tire la première sur les humains au-dessous de lui ? » Les réponses dépendent du sens que nous donnons à l’élément « auto » dans « autodéfense ». Dans les faits, explique Peter Singer, l’armée part du principe qu’un avion sans pilote, en tant qu’entité représentant ceux qui l’ont envoyé en mission, « a les mêmes droits qu’un autre » ; et cette « interprétation est la politique officielle régissant les vols de reconnaissance sans pilote au-dessus du golfe Persique ». Mais la situation évolue rapidement. La prochaine génération de robots militaires jouira probablement d’une forte indépendance opérationnelle, sans aller encore jusqu’à la forme de conscience intelligente qui induit la responsabilité. Heureusement, il existe une sorte de précédent juridique pour traiter ce genre de cas. « Aussi étrange que cela paraisse, écrit Singer, le droit des animaux de compagnie peut apporter un éclairage utile sur la façon de déterminer la responsabilité des systèmes autonomes. » L’idée est d’autant plus stimulante que les chercheurs semblent puiser abondamment dans le monde biologique pour y trouver des solutions élégantes aux problèmes de conception qu’ils rencontrent. Il existe un robot en forme de serpent capable de se dresser dans l’herbe pour scruter les environs ; de minuscules engins de surveillance escaladent les murs comme des insectes ; et des machines volantes battent des ailes. La marine américaine réalise des essais avec des submersibles qui nagent comme des poissons. Des chercheurs britanniques ont mis au point un robot dont les capteurs imitent les moustaches des rats – car, à ce jour, aucun ingénieur n’a réussi à faire mieux pour se diriger dans l’obscurité totale. Qu’on le veuille ou non, la guerre a souvent fait office d’aiguillon pour l’innovation. Aujourd’hui, la technologie est sur le point de supplanter complètement le soldat humain – avec des conséquences que l’on ne peut qu’essayer d’imaginer. La question est de savoir dans quelle mesure nous parviendrons à conserver la maîtrise du processus. Que nous soyons prêts ou non à l’entendre, la réponse sera bientôt claire.   Cet article est paru dans la New York Review of Books le 29 septembre 2011. Il a été traduit par Béatrice Brocard.
LE LIVRE
LE LIVRE

Programmés pour la guerre de L’impératrice qui découvrit l’imprimerie, Penguin

SUR LE MÊME THÈME

Technologie Les Suédois, rois de la surveillance électronique
Technologie Faut-il avoir peur des objets connectés ?
Technologie L’impératrice qui découvrit l’imprimerie

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.