Éloge de la sottise

Deep Blue a battu une fois Kasparov aux échecs, puis s’est retiré de la course. Aujourd’hui, les logiciels les plus sophistiqués restent nuls au poker. En même temps, les gros calculateurs écrasent les facultés arithmétiques du cerveau humain, les ordinateurs peuvent piloter un drone jusqu’à une cible lointaine, dicter le trajet d’une sonde spatiale, gérer mieux qu’une armée d’humains l’effroyable fouillis instantané du Web, guider les mains d’un chirurgien à des milliers de kilomètres de son patient. Et, à en juger par ce qui se passe au Japon, les robots de compagnie ont un bel avenir. Sans faire de la science-fiction (laquelle a parfois mieux anticipé le réel que les meilleurs prévisionnistes), il est naturel de penser au jour où l’intelligence humaine sera, peu ou prou, dominée par la machine. Cette croyance, parfois une conviction affichée par des spécialistes compétents, s’enracine dans la perception parfaitement exacte du hiatus qui ne cesse de s’approfondir entre l’irrésistible­ dynamique du progrès technique et l’apparente immobilité de l’humaine nature, contrainte par les lois de l’évolution biologique à faire du surplace et menacée de régression du fait de son évolution culturelle. Comme l’illustre le dossier de ce numéro de Books, les discussions complexes qui alimentent cette foi ou cette inquiétude négligent souvent des données assez simples, explicables à un enfant. Prenons le mot « sottise ». Une machine pourra-t-elle jamais commettre une sottise ? Bien sûr que non. Un ordinateur peut tomber en panne, un logiciel connaître un bug, mais la sottise reste le propre de l’homme, et l’on voit mal comment elle pourrait ne pas le rester. Un logiciel pourra-t-il jamais percevoir la différence qui existe dans la langue française entre « sottise » et « bêtise » ? Un logiciel pourra-t-il jamais percevoir la différence entre la bêtise humaine et celle de la machine, celle-ci fût-elle animée par les meilleurs logiciels concevables ? Comme l’illustrent les plus sophistiqués des traducteurs automatiques, la machine n’a pas accès au sens. C’est tout de même un sacré handicap.