Pourquoi le serpent de l’IA se mord la queue
Publié en septembre 2025. Par Books.
L’intelligence artificielle (IA)... Elle rend des services spectaculaires dans une myriade de domaines où elle supplante – et de loin – les capacités humaines moyennes. Pourtant, de là à en faire quelque chose de quasi divin qui pourrait tordre le coup à l’humanité, il y a un pas que Arvind Narayanan et Sayash Kapoor invitent à ne surtout pas franchir, en explicitant les raisons qui poussent certains des concepteurs d’IA eux-mêmes, mais aussi des grands penseurs du futur comme Yuval Noah Harari ou feu Henry Kissinger, à hurler à la fin du monde.
Les premiers, explique Trevor Quirk dans The Hedgehog Review, sont animés de basses motivations commerciales. S’ils agitent tant « le risque existentiel », c’est pour « survendre les capacités de l’IA et minimiser ses faiblesses tout en détournant les regards des risques plus immédiats que suscite cette imposture ». Sam Altman, le boss d’OpenAI (Chat GPT), clame ainsi à tout-va que l’IA a déjà atteint un point de non-retour et qu’il s’effraye lui-même de ce qu’elle pourrait devenir. En effet certains dangers semblent bien réels : le patron d’Anthropic, Dario Amodei, prédit que d’ici quelques années la moitié des jobs « cols blancs subalternes » pourraient avoir disparu. Pour Sam Altman, il faudra par conséquent redistribuer fiscalement les immenses profits générés par l’IA voire mettre en place le fameux « revenu universel », si souvent invoqué. Mais les citoyens deviendraient alors totalement dépendants d’un État auquel ils n’apporteraient plus grand-chose et qui serait inéluctablement tenté (peut-être sur les conseils de l’IA) de prendre toutes les rênes en main… Pas formidable pour la démocratie !
C’est bien ce que craignent aussi certains grands penseurs du futur. Mais ceux-là, protestent nos auteurs, ne comprennent pas grand-chose à la nature ni au fonctionnement de l’IA. Or celle-ci, pour le moment du moins, « se contente de reproduire et d’automatiser nos capacités organisatrices et cognitives, quoiqu’à des niveaux de généralité plus élevés », écrit encore Trevor Quirk. Autrement dit, quand on regarde sous le capot, on ne trouve que des réseaux de neurones artificiels – un empilage, en couches successives, de fonctions mathématiques affectées d’une pondération constamment ajustée pour permettre au modèle de progresser (« apprendre »). Une machinerie donc, mais qui brasse, de plus en plus vite, des données de plus en plus nombreuses, qui génèrent de plus en plus de probabilités et des prédictions de plus en plus fiables. Rien de magique. Mais propulsées par des rendements (y compris financiers) en croissance quasi exponentielle, les performances de l’IA pourraient/devraient franchir un jour ou l’autre ce seuil que le futurologue Ray Kurzweil, super-fan de l’IA et par ailleurs gourou technologique chez Google, appelle « singularité » : une fusion de l’intelligence artificielle et humaine, phénomène d’ampleur messianique qui devrait intervenir en 2045 (il ne précise pas quel mois ; s’il est encore en vie, il sera dans sa 98e année). Incidemment, le « problème technique » que constitue la mort pourrait alors se voir réglé avec l’aide de super nanobots intelligents injectables et de l’immortalisation numérique des consciences. Les alarmistes redoutent en revanche qu’un « désalignement » entre les priorités de l’IA et celles de l’humanité conduise à la mise au rancart de cette dernière. Un pessimisme eschatologique pas forcément injustifié : le processus mécanique de progression quantitative de l’IA déboucherait alors sur un saut qualitatif et deviendrait incontrôlable (après tout, la vie sur terre ne pourrait-elle avoir découlé de l’assemblage progressif de molécules de base inertes ?)… En attendant, l’humanité à bel et bien un problème avec l’IA : les seules personnes compétentes et encore en mesure de juguler son évolution dépendent d’elle pour leur gagne-pain.
