L’esprit critique ne prend pas de vacances ! Abonnez-vous à Books !

Nicholas Carr : « Nous déléguons trop de tâches aux machines »

Sauvegarder cet article

C’est une évolution inquiétante. Contrairement à ce qui s’est passé lors des révolutions industrielles précédentes, la machine numérique prend souvent en charge tout ou partie du travail intellectuel. L’automatisation a tendance à fortement réduire nos capacités d’action et de réflexion.


© Scott Keneally

Nicholas Carr : « Il faudrait une automatisation centrée sur l’humain, dans laquelle les systèmes seraient conçus pour aider les gens au lieu de tenter de les contourner. »

Le blogueur et essayiste américain Nicholas Carr est l’un des plus importants (et virulents) critiques du numérique. En juillet 2008, il a publié dans The Atlantic un long article qui a fait grand bruit : « Google nous rend-il stupides ? » L’article est devenu un livre, Internet rend-il bête (Robert Laffont, 2011). D’autres ouvrages sur Internet ont suivi.   L’automatisation a atteint un ­niveau de perfectionnement dont nous n’aurions pas osé rêver il y a ­encore quelques ­années. Comment l’expliquez-vous ? Par une série de progrès simultanés dans des domaines cruciaux : d’abord ce qu’on appelle la « perception par ­machine » – les divers systèmes sensoriels comme le ­radar, le laser et la cartographie numérique, qui permettent aux robots de se déplacer dans le monde réel ; ensuite le traitement ­automatique du langage naturel, grâce ­auquel les ordinateurs peuvent interpréter des questions et des instructions écrites ou parlées. Il y a aussi les moteurs de ­recherche, qui extraient très rapidement une information pertinente d’énormes bases de données. Mentionnons, enfin, l’apprentissage automatique, une technique d’intelligence artificielle au moyen de laquelle les ordinateurs distinguent des motifs dans les données et peuvent ainsi faire des prédictions sur des événements complexes.   Au début de Remplacer l’humain, pour illus­trer les progrès accomplis par l’automa­tisation, vous citez la Google Car. Mais qu’est-ce qu’une voiture sans conducteur a de si prodigieux ? Pendant longtemps et jusqu’à très récem­ment, les spécialistes soutenaient qu’il existait des limites concrètes à l’automatisation de nos facultés intellectuelles, en particulier celles qui impliquent la ­perception sensorielle, la reconnaissance des formes et la connaissance conceptuelle. Et quel exemple donnaient-ils ? Celui de la conduite, une aptitude qui ­nécessite l’interprétation instantanée d’une multitude de signaux visuels et la capacité à réagir dans des situations inattendues. Or la ­voiture Google a fait voler en éclats ces préjugés. Elle redéfinit de façon spectaculaire la ligne de démar­cation entre l’humain et la ­machine.   Dans votre livre, vous semblez regretter ces avancées. Pourquoi ? Ces avancées en elles-mêmes ne sont pas un problème ; elles témoignent de l’ingéniosité humaine et sont dignes d’être célébrées. Le problème naît quand nous y voyons un moyen de remplacer le talent humain plutôt que de le ­compléter.   Que voulez-vous dire ? Nous nous empressons un peu trop de déléguer aux machines des tâches que nous ferions mieux de continuer à réaliser nous-mêmes. En agissant ainsi, nous finissons par sacrifier des aptitudes humaines essentielles.   Confier aux machines les tâches ingrates ne nous permet-il pas de nous consacrer à des tâches plus intéressantes ? C’est ce qu’on a pu constater effectivement, au cours de l’histoire, avec d’autres outils, comme le levier, la roue ou ­encore le boulier : ils nous ont permis de ­déléguer des tâches aussi bien physiques qu’intellectuelles pour nous focaliser sur des problèmes plus complexes et nous fixer des objectifs plus ambitieux. Mais, dans les systèmes automatisés actuels, l’ordinateur prend souvent en charge tout ou partie du travail intellectuel, qui était jusqu’à présent considéré comme l’apanage des humains : il observe, raisonne, analyse, juge et prend même des décisions à notre place. En conséquence de quoi le rôle de l’opérateur se cantonne à entrer des données, contrôler les résultats et surveiller le fonctionnement de la machine. Loin de nous avoir ouvert de nouvelles perspectives, l’informatique a fortement réduit nos capacités d’action et de réflexion en nous imposant des tâches routinières et monotones.   À quelle profession songez-vous, plus ­particulièrement ? Les pilotes d’avion sont une très bonne illustration de ce phénomène. De nos jours, sur un vol, ils tiennent en moyenne les commandes pendant trois minutes, réparties entre les phases de décollage et d’atterrissage, et passent la majeure partie de leur temps à surveiller des écrans et à saisir des données. D’une façon générale, beaucoup de ce que nous savons sur l’interaction entre humains et ordinateurs provient de la recherche dans le domaine aéronautique, car l’automatisation des vols remonte à des décennies. Cette histoire est pour l’essentiel positive, je le précise : le pilotage automatique a rendu les vols bien plus sûrs qu’autrefois.   Mais il y a eu des effets négatifs… Oui. Les pilotes sont devenus tellement d
épendants du pilotage ­automatique que leurs compétences se sont détériorées : ils ont perdu leurs réflexes. C’est ce qui explique le crash du vol Air France entre Rio et Paris, en 2009. Lorsque les sondes de mesure de vitesse se sont mises à dysfonctionner, les pilotes n’ont pas compris ce qui se passait et ont été incapables de rétablir une situation qui n’avait rien de fatal au départ. Et cette catastrophe n’est pas un cas isolé. En 2010, une grande enquête menée sur les accidents de vols commerciaux survenus au cours des dix ­dernières années a révélé que près des deux tiers d’entre eux étaient dus à des erreurs de pilotage. Les spécialistes parlent du « paradoxe de l’automatisation ». Même si l’automatisation est utilisée dans l’espoir de réduire les risques d’erreur humaine, elle finit par rendre celle-ci plus probable en érodant les compétences. D’ailleurs, l’Agence fédérale de l’aviation américaine recommande désormais que les pilotes passent plus de temps à voler en mode manuel.   Mais les pilotes d’avion ne constituent-ils pas un cas extrême ? En quoi, au quotidien, l’automatisation menace-t-elle nos ­compétences ? Je vais vous donner un exemple ­banal dont nous avons tous fait l’expérience : quand nous utilisons un logiciel de traitement de texte avec correcteur, nous faisons beaucoup moins attention aux fautes d’orthographe. Je pourrais ­aussi ­citer le GPS : celui qui y a recours foca­lise toute son attention sur les instructions qu’il reçoit et perd de vue son environnement. Il ne sait plus s’orienter seul et son ancrage dans le monde s’en trouve diminué. Il existe aussi désormais des logiciels pour les architectes, les avocats, les financiers et même les médecins. Chaque fois, ils ont tendance à brider la créativité et à faire régresser les individus qui se reposent trop sur eux, les croyant, à tort, infaillibles. Pour tirer le meilleur de nous-mêmes, nous avons besoin d’être stimulés. Or tous ces systèmes automatisés font précisément le contraire !   Si je vous comprends bien, l’un des grands défauts de l’automatisation, c’est qu’elle nous rend trop passifs ? Oui. Car, pour être efficace, l’apprentissage doit être actif. Dès la fin des années 1970, les chercheurs en psychologie cognitive ont montré, par exemple, que les gens se souviennent mieux de mots après les avoir trouvés eux-mêmes qu’après les avoir simplement lus. Au cours d’une expérience conduite à l’université de Toronto, les participants devaient mémoriser des paires d’antonymes, comme « chaud » et « froid », inscrits sur des cartes. Certains d’entre eux disposaient de cartes sur lesquelles les deux mots étaient écrits en entier. Les autres utilisaient des cartes où ne figurait que la première lettre du second mot. Il en est ressorti qu’en forçant simplement leur esprit à former la suite du mot, ces derniers retenaient bien mieux les informations. C’est là un cas qui montre un stade minimal de l’automatisation (l’action de la pensée, la production du mot, a été remplacée par un stimulus écrit), mais ces résultats mettent d’autant mieux en lumière le coût de cette automatisation. Quand les logiciels réduisent notre degré d’engagement dans notre travail, en nous poussant à jouer le rôle d’observateur ou d’opérateur passif, ils court-circuitent des processus cognitifs profonds. Ils entravent notre capacité à développer le type de connaissances riches et concrètes qui nous permet de maîtriser une compétence ou un savoir-faire.   Karl Marx, Oscar Wilde, John Maynard Keynes, tous ont rêvé d’une société où les machines accompliraient l’essentiel du travail pour nous. N’est-ce pas un idéal souhaitable ? S’il y a deux types de penseurs à qui il ne faut absolument pas se fier, ce sont bien les futurologues et les utopistes ! Mais même en supposant que ce rêve récurrent d’un futur sans travail soit possible (ce que je ne pense pas), il faut vraiment ignorer la nature humaine pour croire que nous mènerions tous une existence heureuse de pur loisir, que nous deviendrons tous des poètes, des artistes et des inventeurs. En réalité, la plupart des gens auraient une vie ennuyeuse, dénuée de but, et ils se réfugieraient sans doute dans les drogues.   Pourquoi alors aspirons-nous à une vie ­affranchie du travail ? C’est ce que les psychologues appel­lent le « mal-vouloir ». Les êtres ­humains ont tendance à désirer ce qui les rend malheureux et à fuir ce qui les rend heureux. Des études ont montré que nous avons beau prétendre ne pas aimer être au travail et préférer ne rien faire, en ­réalité, nous nous sentons bien mieux, plus épanouis, au travail que pendant notre temps libre, où nous nous ennuyons et sommes anxieux. C’est l’une des raisons qui font que nous avons ­accueilli l’auto­matisation à bras ouverts alors même qu’elle porte atteinte à nos intérêts les plus profonds. Nous nous imaginons qu’elle va nous ­délivrer, mais elle nous enferme, amoindrit notre vie et nous coupe des vraies sources de satisfaction.   Mais beaucoup de métiers ne sont-ils pas ennuyeux, voire dégradants ? De même qu’il existe une multitude de passe-temps vivifiants et épanouissants… Je ne le nie pas. Je dis juste qu’en règle générale le travail nous fournit un cadre structurant qui s’estompe ou disparaît quand nous sommes livrés à nous-mêmes. Nous ne nous sentons jamais plus satisfaits que lorsque nous faisons face à un défi difficile, aux objectifs clairement définis, et le surmontons. Nous avons besoin d’utiliser et de développer nos aptitudes, de nous immerger dans une tâche qui nous fasse oublier les soucis du quotidien.   L’automatisation ne pourrait-elle pas s’adapter à ces besoins fondamentaux ? Si. Mais ce n’est pas le chemin qu’elle a pris. Aujourd’hui, l’automatisation qui domine est « technocentrique ». Les programmeurs et les ingénieurs confient le plus de responsabilités possible aux ordinateurs, ne déléguant aux humains que ce qu’ils ne savent pas ­automatiser. C’est une approche misanthropique de l’automatisation qui tend à faire de l’homme le serviteur passif de la ­machine – un rôle qui ne correspond pas du tout à nos besoins fondamentaux. Une approche différente et, selon moi, meilleure, serait une automatisation centrée sur l’humain, dans laquelle les systèmes seraient conçus pour aider les gens au lieu de tenter de les contourner. Il s’agit de commencer par identifier les aptitudes humaines qui sont importantes et d’ensuite élaborer un système qui fait en sorte que les gens ont la possibilité de maintenir et développer ces aptitudes par une pratique continuelle. L’ordinateur devient un partenaire au lieu d’être un usurpateur.   Mais pourquoi n’est-ce pas la voie qui a été choisie ? L’une des raisons remonte au ­début de l’automatisation telle qu’on la connaît, au lendemain de la Seconde Guerre mondiale, quand il est devenu possible de programmer les machines des usines. À ce moment-là il y avait différents moyens de le faire. L’une des ­solutions consistait à confier aux ­ouvriers la responsabilité de programmer leur ­machine individuelle. Cette programmation ­serait devenue une extension de l’expertise de l’ouvrier. Mais les propriétaires d’usine ont rejeté cette ­méthode et en ont imposé à la place une très différente, nommée « commande numé­rique », où la programmation est effectuée de façon centralisée par les managers ou des consultants. Dès le tout début, il a été clair que l’automatisation était davantage qu’un simple moyen d’accélérer le travail ; c’était un moyen de gagner du pouvoir, de rétablir ou de renforcer un statu quo. C’est toujours vrai aujourd’hui.   Ne peut-on rien faire pour inverser cette tendance ? Il est très dur de revenir en arrière une fois qu’une technologie s’est imposée. L’historien américain Thomas Hughes parle à ce sujet d’« effet d’entraînement technologique ». Au premier stade de son développement, une nouvelle technologie reste malléable ; sa forme et sa fonction peuvent être modifiées selon les desiderata des concepteurs, les avis des utilisateurs et les intérêts de la société. Par la suite, dès qu’elle se trouve intégrée dans une infrastructure matérielle, qu’elle sert des intérêts commerciaux et qu’elle répond aux normes politiques comme aux attentes des ­individus, il devient quasiment impossible d’endiguer son développement. Elle fait corps avec la société, et, ayant acquis une force d’inertie considérable, continue irrémédiablement sur sa ­lancée.   N’avez-vous pas malgré tout une ­approche « luddite » de la technologie ? J’ai une approche critique de la technologie – qui, je crois, est la bonne ­approche. Et oserais-je dire un mot pour la défense des luddites ? Contrairement à la caricature dont ils sont souvent l’objet, les luddites du XIXe siècle détruisaient les machines industrielles non pas parce qu’ils étaient opposés à la technologie, mais parce qu’ils voyaient bien que les machines menaçaient leur manière de vivre, leur existence de petits artisans. Les machines étaient un moyen de faire basculer le pouvoir économique et politique des ouvriers qualifiés aux propriétaires d’usine, et c’est ce transfert que les luddites combattaient. Il y avait de l’héroïsme dans leur lutte – même si cet héroïsme s’est révélé vain.   — Propos recueillis par Baptiste Touverey.
LE LIVRE
LE LIVRE

Remplacer l’humain. Critique de l’automatisation de la société de Nicholas Carr, L’Échappée, 2017

SUR LE MÊME THÈME

Entretien Robert Harrison : « La forêt est lieu du pêché mais aussi de la rédemption »
Entretien Vivien Schmidt : « Inventer un nouvel avenir pour l'Europe »
Entretien Walter Scheidel : « Seule la violence a permis de réduire les inégalités »

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.