Soutenez l’esprit critique ! Participez à la campagne pour préserver l’indépendance de Books !

IA superstar

La plupart d’entre nous ne comprendront jamais ce qui se cache derrière l’expression « intelligence artificielle ». Allez expliquer à un non-spécialiste ce que sont un réseau de neurones, un réseau de neurones profond, l’« apprentissage machine » et, plus encore, le passage d’une « IA faible » à une « IA forte », dotée, celle-là, de quelque chose ressemblant à une conscience. Aussi les espoirs et les craintes suscitées par l’IA sont-ils pour l’essentiel véhiculés par les films de science-fiction et les médias.
On peut tout de même donner une idée de ce dont il s’agit. Un article paru en novembre 2018 dans la revue scientifique Nature est inti­tulé « L’expérience de la machine morale ». Les chercheurs qui ont réalisé cette expérience en rendent compte dans une langue accessible. La voiture autonome commence à rouler, et les ­experts sont nombreux à prédire que les enfants nés aujourd’hui n’auront pas besoin de passer le permis de conduire. Tous les problèmes techniques ont été résolus, sauf un, d’apparence inextricable. En régime de croisière, certains véhi­cules vont nécessairement être confrontés à un choix que nous les humains qualifions de moral. Dans une situation où l’accident est inévitable et où manifestement toutes les vies en présence ne peuvent être épargnées, la voiture, si elle a le choix, devra-t-elle préférer sauver l’enfant qui traverse ou les vieux chnoques qu’elle transporte ? Il faut donc fournir à l’ordinateur de bord des algorithmes lui donnant les instructions nécessaires, en l’occurrence un code moral.
Or la morale, observait Montaigne, varie ­selon les pays et les mœurs. Va-t-on concevoir un code moral automatique applicable au monde entier ? « Et pourquoi pas ? » répondent les ­auteurs. Un programme d’intelligence artificielle devant se fonder sur une très grande quantité de données, les chercheurs ont créé une plateforme en ligne multilingue permettant de recueillir une multitude d’avis sur la façon dont les gens souhaiteraient que la voiture autonome résolve neuf types de dilemmes moraux recensés en cas d’acci­dent inévitable. La plateforme a ainsi compilé 40 millions de « décisions » en dix langues, dans plus de 200 pays. Résultat : on constate partout une préférence pour sauver des jeunes plutôt que des vieux, sauver plus de vies et sauver des vies humaines plutôt que des vies animales. En revanche, les préférences fondées sur le sexe ou le statut social diffèrent fortement d’une culture à l’autre. L’échantillon n’étant pas représentatif, les chercheurs invitent les responsables qui auront à décider du code moral à inscrire dans les algorithmes de la voiture à manier ces résultats avec prudence. Ils se disent néanmoins persuadés qu’il n’est pas impossible de parvenir à une « machine éthique consensuelle ».
L’avenir le dira. Quoi qu’il en soit, l’idée même d’une « machine morale » nous installe au cœur de la problématique de fond créée par les progrès de l’IA : un formidable potentiel (dans l’industrie, le commerce en ligne, la médecine, la surveillance, l’armement…), mais aussi de formidables défis, de nature morale et politique. Comme l’explique un publirédactionnel de la firme chinoise Huawei, « nous allons bientôt entrer dans un monde intelligent où tout est connecté. […] Nous nous dirigeons vers une IA omniprésente ». Vladimir Poutine, qui a exploité l’IA pour intervenir dans la campagne présidentielle américaine de 2016, a déclaré devant des lycéens : « Celui qui deviendra leader dans ce domaine sera le maître du monde. »
C’est aujourd’hui le projet explicite de la Chine, qui s’est fixé l’horizon 2030 pour atteindre ce but. Comme l’explique dans un livre Kai-Fu Lee, un Chinois qui a fait carrière chez Apple, Microsoft et Google avant de créer un fonds d’investissement dans son pays, la Chine a trois atouts : une immense population permettant de rassembler une phénoménale masse de données, une véritable armée de geeks et, last but not least, des citoyens qui font passer la hausse de leur niveau de vie avant le respect de leur vie privée (1). Avantages auxquels il faut bien sûr ajouter un quatrième : un État autoritaire.

Notes

1. AI Superpowers: China, Silicon Valley and the New World Order (Houghton Mifflin, 2018).

SUR LE MÊME THÈME

Edito Du grain à remoudre
Edito Éloge des chasseurs-cueilleurs
Edito L'aristocratie des temps modernes

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.