Soutenez l’esprit critique ! Participez à la campagne pour préserver l’indépendance de Books !

Dossier
Temps de lecture 15 min

Garry Kasparov, optimiste face aux machines

Vingt ans après sa défaite face à Deep Blue, le champion d’échecs Garry Kasparov engage une réflexion de fond sur l’intelligence artificielle. Optimiste, il juge possible de garder la maîtrise de machines qui ne pourront jamais exprimer des émotions ou se doter d’une conscience.

Les échecs sont un jeu de rois, mais aussi de génies. Depuis des centaines d’années, ils servent de référence – et de symbole du summum de l’intelligence humaine. Contemplant les pièces, perdu dans ses pensées, le maître d’échecs appa­raît comme un pur esprit, un cerveau sans corps. Pas étonnant dès lors que les informaticiens aient fait de l’échiquier leur premier terrain d’expérimentation lorsqu’ils commencèrent à envisager la création d’une intelligence artificielle au milieu du siècle dernier. Construire une machine capable de battre un joueur humain expert revenait à fabriquer un esprit. C’était une thèse fascinante, et l’idée que nous nous faisons de l’intelligence artificielle en est encore aujourd’hui imprégnée, mais, comme le fait valoir l’ancien champion du monde d’échecs Garry Kasparov dans son éclairant nouveau livre autobiographique Deep Thinking, elle était erronée d’entrée de jeu. Elle révélait une mauvaise compréhension des échecs, des ordinateurs et de l’intelligence. À l’aube de l’ère informatique, en 1950, Claude Shannon, influent ingé­nieur des laboratoires Bell, publie dans Philosophical Magazine un article inti­tulé « Programming a Computer for Playing Chess » (« Programmation d’un ordinateur pour jouer aux échecs »). Non seulement la création d’un joueur d’échecs informatisé « raisonnablement performant » est possible, affirme-t-il, mais elle aura des conséquences méta­physiques. Elle contraindra l’espèce humaine « soit à admettre la possibilité d’une pensée mécanisée, soit à restreindre sa définition de “l’acte de penser” ». Il avance ensuite une idée qui va se révéler essentielle à la fois pour le développement des logiciels d’échecs et pour les travaux sur l’intelligence artificielle en général. Un programme d’échecs, écrit-il, doit comporter une fonction de recherche susceptible de recenser les coups possibles et de les classer en fonction de leur influence sur le cours ultérieur de la partie. Il présente deux stratégies très différentes pour programmer la fonction. La stratégie de type A repose sur la force brute, en analysant la valeur relative de tous les coups le plus loin possible dans la suite du jeu, dans la limite de ce qu’autorise la vitesse de l’ordinateur. La stratégie de type B utilise l’intelligence plutôt que la force brute, en conférant à l’ordinateur une compréhension du jeu qui lui permet de se concentrer sur un petit nombre de coups pertinents, en négligeant les autres. En substance, un ordinateur de type B est doté de l’intuition d’un joueur humain expérimenté. Quand Shannon écrit son article, tout le monde, à commencer par lui, pense que la méthode de type A est une ­impasse. Il paraît évident que, en raison des limites de temps imposées lors des compétitions d’échecs, un ordinateur ne sera jamais assez rapide pour étendre son analyse au-delà de quelques coups d’avance. Comme le fait remarquer Kasparov, il y a plus de « 300 milliards de façons possibles de jouer les quatre premiers coups dans une partie d’échecs, et, même si 95 % de ces variations sont sans intérêt, un programme de type A devait toutes les passer en revue ». En 1950, et de nombreuses années après, personne ne peut imaginer qu’un ordi­nateur exécutant une stratégie fondée sur la force brute puisse l’emporter sur un bon joueur. Malheureusement, conclut Shannon, « une machine travaillant avec la stratégie de type A serait à la fois lente et mauvaise joueuse ». La stratégie de type B, fondée sur l’intelligence, semblait beaucoup plus praticable, ne serait-ce que parce qu’elle cadrait avec les conceptions scientifiques de l’époque. La fascination pour les ordinateurs numériques s’accrut dans les ­années 1950, et les « machines pensantes » commencèrent à inspirer des théories sur l’intelligence humaine. De nombreux chercheurs et philosophes en vinrent à considérer que le cerveau ­humain devait fonctionner un peu comme un ordinateur, utilisant ses milliers de neurones en réseau pour « calculer » pensées et sensations. Selon un curieux type de logique circulaire, cette analogie guida en retour les premières ­recherches sur l’intelligence artificielle : si l’on pouvait trouver les codes qu’utilise le cerveau pour accomplir ses tâches cogni­tives, on serait capable de programmer des codes similaires dans un ordinateur. Non seulement la ­machine jouerait aux échecs comme un champion, mais elle serait aussi capable d’accomplir presque tout ce qu’un cerveau humain peut accomplir. Dans un article de 1958, les éminents chercheurs Herbert Simon et Allen Newell affirment que les ordinateurs sont des « machines qui pensent » et que, dans un proche avenir, « l’éventail de problèmes qu’ils sont en mesure de traiter coïncidera avec celui auquel l’intelligence ­humaine est appliquée ». Bien programmé, un ordinateur pouvait devenir un être pensant. Kasparov, l’un des plus grands joueurs d’échecs de l’histoire, s’est fait battre lors d’un tournoi en six parties par le superordinateur Deep Blue d’IBM en 1997. Même si c’était la première fois qu’une machine l’emportait sur un champion du monde dans une compétition officielle, les informaticiens et les champions d’échecs n’ont pas été surpris outre mesure. Les ordinateurs d’échecs n’avaient cessé de progresser au fil des ans, montant inexorablement dans le classement des meilleurs joueurs humains. Kasparov s’est juste trouvé au bon endroit au mauvais moment. Mais l’histoire de la victoire de l’ordinateur livre un enseignement inattendu. Il est apparu que Shannon et ses contemporains s’étaient trompés. C’est la stratégie de type B, celle de l’intelligence, qui était une voie sans issue. Malgré leur optimisme des débuts, les chercheurs en intelligence artificielle n’ont absolument pas réussi à faire penser les ordinateurs comme les humains. Deep Blue
a battu Kasparov non pas en égalant son discernement et son intuition, mais en le submergeant de calculs aveugles. Grâce à des années de progrès exponentiels en matière de puissance de calcul et à l’amélioration constante de la performance des algorithmes de recherche, l’ordinateur a été capable de passer au peigne fin un nombre suffisant de coups possibles en un laps de temps assez court pour vaincre le champion. La force brute a triomphé. « Il s’est avéré que construire un superordinateur d’échecs n’était pas la même chose que construire une machine pensante à la hauteur de l’intelligence humaine, estime ­Kasparov. Deep Blue était intel­ligent de la même manière que votre ­réveil programmable est intelligent. » L’histoire des machines joueuses d’échecs se confond avec l’histoire de l’intelligence artificielle. Après les décon­venues rencontrées en essayant de rétroconcevoir le cerveau, les informaticiens ont ­révisé leurs ambitions à la baisse. Renonçant à mettre au point une intelligence de type humain, ils se sont concentrés sur la réalisation de tâches analytiques complexes mais limitées, en tablant sur la puissance de calcul inhumaine des ordi­nateurs modernes. Cette approche moins ambitieuse mais plus pragmatique a payé dans des domaines ­allant du diagnostic médical à la voiture autonome. Les ordinateurs reproduisent les résultats de la pensée humaine sans reproduire la pensée elle-même. Si, dans les années 1950 et 1960, l’accent, dans l’expression « intelligence artificielle » était mis sur le mot « intelligence », il l’est aujourd’hui sur le terme « artificielle ». La mise en œuvre d’algorithmes de recherche semblables à ceux qui faisaient fonctionner Deep Blue a été particulièrement fructueuse. Si une machine peut rechercher des milliards de possibilités en l’espace de quelques millisecondes, en les classant selon leur pertinence pour atteindre un objectif prédéterminé, alors elle peut surclasser les experts humains dans l’analyse de problèmes, sans avoir à égaler leur expérience ou leur discernement. Récemment, les programmeurs en intelligence artificielle ont ajouté une autre technique fondée sur la force brute à leur répertoire : l’apprentissage automatique, ou apprentissage machine. Pour résumer, il s’agit d’une méthode statistique permettant de déceler dans des événements passés des associations pouvant être utilisées pour prévoir des événements futurs. Plutôt que de donner à un ordinateur un ensemble d’instructions à suivre, un programmeur entre dans l’ordinateur de nombreux exemples d’un phénomène et, à partir de ces exemples, la machine décèle les relations entre les variables. Alors que la plupart des logiciels appliquent des règles aux données, les algorithmes d’apprentissage automatique font l’inverse : ils extraient des règles des données, puis appliquent ces règles pour formuler des jugements sur des situations nouvelles. Dans les logiciels de traduction actuels, par exemple, un ordinateur balaie des millions de textes traduits pour découvrir des liens entre des expressions dans des langues différentes. À l’aide de ces correspondances, il peut ensuite mettre en regard des traductions de nouvelles chaînes de textes. L’ordinateur n’a pas besoin de comprendre la grammaire ou le sens ; il se contente de régurgiter des mots dans toutes les combinaisons qui, selon ses calculs, ont les plus fortes chances d’être exactes. Le style et les nuances inhérents au travail d’un traducteur expérimenté font défaut au résultat, mais ce dernier n’en est pas moins d’une très grande utilité. Les algorithmes d’apprentissage automatique ne datent pas d’hier, mais il leur faut un nombre considérable d’exemples pour être fiables, ce qui n’est devenu possible qu’avec l’explosion des données en ligne. Kasparov cite un ingénieur du programme Google Traduction : « Quand on passe de 10 000 à 10 milliards d’exemples, tout se met à marcher. Les données priment sur tout le reste. » Le tournant pragmatique de la recherche en intelligence artificielle a produit de nombreuses percées de ce genre, mais cette évolution met aussi en lumière les limites de l’IA. Grâce à la force brute du traitement des données, les ordinateurs peuvent fournir des ­réponses à des questions très précises et prédire le déroulement d’événements complexes, mais il leur manque la compréhension, l’imagination et le bon sens pour faire ce que les esprits humains font naturellement : transformer l’information en connaissance, penser de façon conceptuelle et métaphorique, aborder les fluctuations et l’incertitude du monde sans disposer du scénario. Les machines restent des machines. Cette réalité n’a pas émoussé l’intérêt du public pour l’imaginaire lié à l’intelligence artificielle. À côté de séries télévisées et de films mettant en scène des ordinateurs malintentionnés et des robots sanguinaires, on a vu ­paraître une flopée d’ouvrages très sérieux intitulés « Superintelligence », « Plus intelligents que nous » et « Notre ultime invention », qui laissent tous entendre que les ­machines seront bientôt plus douées que nous (1). Ces prédictions font écho à celles qui ont été formulées dans les années 1950 et 1960, et, comme précédemment, elles sont fondées sur des spéculations plutôt que sur des faits. Malgré des avancées ­gigantesques dans le domaine des ­matériels et des logiciels informatiques, rien n’indique que les ordi­nateurs sont en passe de devenir des êtres doués de ­volonté, d’émotion ou de conscience. Leur force – que Kasparov qualifie d’« objectivité d’un amnésique » – est aussi leur faiblesse. En plus de remettre en question les idées reçues concernant l’intelligence arti­ficielle, Kasparov bouscule nos préjugés sur les échecs. Le jeu, surtout quand il est pratiqué au plus haut niveau, est beaucoup plus qu’un simple exercice ­cérébral de logique et de calcul, et le joueur expert est tout sauf une caricature de grosse tête. Le lien entre le don pour les échecs et le type d’intelligence mesurée par les tests de QI, observe Kasparov, est, au mieux, ténu. « Il est aussi faux de dire que tous les joueurs d’échecs sont des génies que de dire que tous les génies jouent aux échecs », écrit-il. « L’une des choses qui font l’intérêt des échecs est qu’on ne sait pas encore précisément ce qui distingue les “bons” joueurs des grands maîtres. » Les échecs sont un sport éreintant. Ils exigent de l’endurance, de la résilience et une aptitude à la guerre psychologique. Ils requièrent aussi une perception sensorielle aiguë. « La préparation d’un coup fait apparemment intervenir davantage d’activité cérébrale spatio­visuelle que les calculs nécessaires à la résolution d’un problème mathématique », écrit Garry Kasparov, faisant référence à de récentes expériences neurologiques. Pour le maître d’échecs, les 64 cases de l’échiquier constituent non seulement une géométrie abstraite, mais un véri­table terrain. Tels des personnages dans un paysage, les pièces forment des ­motifs que le maître, tirant parti d’années d’expérience, détecte intuitivement, souvent d’un simple coup d’œil. L’analyse méthodique est aussi importante, mais elle est effectuée dans le cadre d’un processus mental multiforme et encore mystérieux, qui mobilise autant le corps et les sens que les neurones et les ­synapses. La contingence de l’intelligence ­humaine – la façon dont elle varie en fonction de la santé, de l’humeur et des circonstances – est au centre du récit que fait Kasparov de son duel historique avec Deep Blue. Ayant vaincu la machine lors d’un célèbre match un an plus tôt, le champion aborde la compétition de 1997 convaincu qu’il en sortira une nouvelle fois vainqueur. Sa confiance est confortée quand il gagne de façon nette la première partie. Mais, dans la deuxième partie fatidique, Deep Blue joue une ­série de coups décisifs. Ébranlé, Kasparov commet une erreur mentale calamiteuse. Amer, il jette l’éponge après une offensive de l’ordinateur, qu’il croit fatale, contre sa reine. Mais ce n’est qu’après coup qu’il se rend compte que sa position n’était pas désespérée ; il aurait pu imposer une ­partie nulle à la machine. À l’issue de cette partie perdue, Kasparov est « déboussolé et dans une angoisse terrible », qui l’empêche de reprendre ses ­esprits. Bien que les trois parties suivantes se soldent par des « nuls », Deep Blue l’écrase dans la sixième et dernière, et remporte le match. L’une des forces de Kasparov a toujours été sa capacité à lire dans les pensées de ses adversaires et, du coup, d’anticiper leurs stratégies. Mais, avec Deep Blue, il n’y avait pas de pensées à lire. L’absence de personnalité de la machine, son implacable inexpressivité s’est avérée l’un de ses principaux atouts. Cela a désorienté Kasparov, instillant des doutes dans son esprit et entamant sa confiance en soi. « Je ne savais absolument rien de mon adversaire, se rappelle-t-il. Du fait de mon profond désarroi, mon esprit s’est égaré. » L’ironie est que la victoire de la machine était autant une question de psychologie que de talent (2). S’il n’avait pas perdu ses moyens, Kasparov aurait pu gagner en 1997. Mais cela n’aurait fait que retarder l’inévitable. Au tournant du millénaire, l’ère de la domi­nation des ordinateurs aux échecs s’est affirmée. Aujourd’hui, même les plus grands des grands maîtres ne se risqueraient pas à défier un ordinateur. Ils savent qu’ils n’auraient aucune chance. S’ils sont devenus imbattables sur l’échiquier, les ordinateurs restent incapables de faire montre de ce que Kasparov appelle « le caractère ineffable des échecs humains ». Il y voit une raison de se montrer optimiste quant à l’avenir de l’humanité. À la différence d’un échiquier de huit cases sur huit, le monde est un ­espace illi­mité, et les calculs mathématiques ou statistiques ne suffiront jamais pour le ­déchiffrer. Le manque de souplesse de l’intelligence artificielle laisse aux humains une grande latitude pour exercer leur intelligence, flexible et intuitive. Si nous prenons garde de soumettre la puissance de nos ordinateurs à nos propres objectifs, conclut Kasparov, nos machines ne nous remplaceront pas ; elles nous permettront au contraire d’accomplir des exploits plus grands encore. Espérons qu’il a raison. Mais le fait que les ­ordinateurs deviennent de plus en plus puissants et répondent de mieux en mieux à nos ­besoins présente un danger. Si les avantages du traitement informatique sont faciles à mesurer – en termes de vitesse, de rendement, d’argent –, ceux de la pensée humaine sont souvent difficiles à exprimer en chiffres bruts. Quand on voit à quel point la ­société vénère ce qui est mesurable et méprise l’ineffable, notre intelligence pourrait paraître à son désavantage au moment où nous informatisons à tout-va de plus en plus d’aspects de nos métiers et de nos existences. La question n’est pas de savoir si les subtilités de l’esprit humain resteront hors de portée des machines. Elles le resteront sans aucun doute. La question est de savoir si nous continuerons à apprécier la valeur de ces subtilités alors que nous devenons plus dépendants des calculs aveugles, mais brutalement efficaces, de nos machines. Face à l’implacable, le contingent peut sembler infé­rieur, ses forces apparaissant comme des faiblesses. Dans les dernières pages de son livre, Kasparov note avec un certain regret : « Les humains se mettent de plus en plus à jouer aux échecs comme des ordi­nateurs. » Une fois de plus, ce jeu ancien pourrait nous offrir un présage.   — Cet article est paru dans la Los Angeles Review of Books le 29 juin 2017. Il a été traduit par Philippe Babo.
LE LIVRE
LE LIVRE

Deep Thinking: Where Machine Intelligence Ends and Human Creativity Begins de Garry Kasparov, PublicAffairs, 2017

SUR LE MÊME THÈME

Dossier Alain Prochiantz : « La radicale originalité de Sapiens »
Dossier Frans de Waal : « Ne confondons pas émotions et sentiments »
Dossier Ce que ressentent les animaux

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.