Nicholas Carr : « Nous déléguons trop de tâches aux machines »
par Baptiste Touverey

Nicholas Carr : « Nous déléguons trop de tâches aux machines »

C’est une évolution inquiétante. Contrairement à ce qui s’est passé lors des révolutions industrielles précédentes, la machine numérique prend souvent en charge tout ou partie du travail intellectuel. L’automatisation a tendance à fortement réduire nos capacités d’action et de réflexion.

Publié dans le magazine Books, janvier/février 2018. Par Baptiste Touverey

© Scott Keneally

Nicholas Carr : « Il faudrait une automatisation centrée sur l’humain, dans laquelle les systèmes seraient conçus pour aider les gens au lieu de tenter de les contourner. »

Le blogueur et essayiste américain Nicholas Carr est l’un des plus importants (et virulents) critiques du numérique. En juillet 2008, il a publié dans The Atlantic un long article qui a fait grand bruit : « Google nous rend-il stupides ? » L’article est devenu un livre, Internet rend-il bête (Robert Laffont, 2011). D’autres ouvrages sur Internet ont suivi.   L’automatisation a atteint un ­niveau de perfectionnement dont nous n’aurions pas osé rêver il y a ­encore quelques ­années. Comment l’expliquez-vous ? Par une série de progrès simultanés dans des domaines cruciaux : d’abord ce qu’on appelle la « perception par ­machine » – les divers systèmes sensoriels comme le ­radar, le laser et la cartographie numérique, qui permettent aux robots de se déplacer dans le monde réel ; ensuite le traitement ­automatique du langage naturel, grâce ­auquel les ordinateurs peuvent interpréter des questions et des instructions écrites ou parlées. Il y a aussi les moteurs de ­recherche, qui extraient très rapidement une information pertinente d’énormes bases de données. Mentionnons, enfin, l’apprentissage automatique, une technique d’intelligence artificielle au moyen de laquelle les ordinateurs distinguent des motifs dans les données et peuvent ainsi faire des prédictions sur des événements complexes.   Au début de Remplacer l’humain, pour illus­trer les progrès accomplis par l’automa­tisation, vous citez la Google Car. Mais qu’est-ce qu’une voiture sans conducteur a de si prodigieux ? Pendant longtemps et jusqu’à très récem­ment, les spécialistes soutenaient qu’il existait des limites concrètes à l’automatisation de nos facultés intellectuelles, en particulier celles qui impliquent la ­perception sensorielle, la reconnaissance des formes et la connaissance conceptuelle. Et quel exemple donnaient-ils ? Celui de la conduite, une aptitude qui ­nécessite l’interprétation instantanée d’une multitude de signaux visuels et la capacité à réagir dans des situations inattendues. Or la ­voiture Google a fait voler en éclats ces préjugés. Elle redéfinit de façon spectaculaire la ligne de démar­cation entre l’humain et la ­machine.   Dans votre livre, vous semblez regretter ces avancées. Pourquoi ? Ces avancées en elles-mêmes ne sont pas un problème ; elles témoignent de l’ingéniosité humaine et sont dignes d’être célébrées. Le problème naît quand nous y voyons un moyen de remplacer le talent humain plutôt que de le ­compléter.   Que voulez-vous dire ? Nous nous empressons un peu trop de déléguer aux machines des tâches que nous ferions mieux de continuer à réaliser nous-mêmes. En agissant ainsi, nous finissons par sacrifier des aptitudes humaines essentielles.   Confier aux machines les tâches ingrates ne nous permet-il pas de nous consacrer à des tâches plus intéressantes ? C’est ce qu’on a pu constater effectivement, au cours de l’histoire, avec d’autres outils, comme le levier, la roue ou ­encore le boulier : ils nous ont permis de ­déléguer des tâches aussi bien physiques qu’intellectuelles pour nous focaliser sur des problèmes plus complexes et nous fixer des objectifs plus ambitieux. Mais, dans les systèmes automatisés actuels, l’ordinateur prend souvent en charge tout ou partie du travail intellectuel, qui était jusqu’à présent considéré comme l’apanage des humains : il observe, raisonne, analyse, juge et prend même des décisions à notre place. En conséquence de quoi le rôle de l’opérateur se cantonne à entrer des données, contrôler les résultats et surveiller le fonctionnement de la machine. Loin de nous avoir ouvert de nouvelles perspectives, l’informatique a fortement réduit nos capacités d’action et de réflexion en nous imposant des tâches routinières et monotones.   À quelle profession songez-vous, plus ­particulièrement ? Les pilotes d’avion sont une très bonne illustration de ce phénomène. De nos jours, sur un vol, ils tiennent en moyenne les commandes pendant trois minutes, réparties entre les phases de décollage et d’atterrissage, et passent la majeure partie de leur temps à surveiller des écrans et à saisir des données. D’une façon générale, beaucoup de ce que nous savons sur l’interaction entre humains et ordinateurs provient de la recherche dans le domaine aéronautique, car l’automatisation des vols remonte à des décennies. Cette histoire est pour l’essentiel positive, je le précise : le pilotage automatique a rendu les vols bien plus sûrs qu’autrefois.   Mais il y a eu des effets négatifs… Oui. Les pilotes sont devenus tellement dépendants du pilotage ­automatique que leurs compétences se sont détériorées : ils ont perdu leurs réflexes. C’est ce qui explique le crash du vol Air France entre Rio et Paris, en 2009. Lorsque les sondes de mesure de vitesse se sont mises à dysfonctionner, les pilotes n’ont pas compris ce qui se passait et ont été incapables de rétablir une situation qui n’avait rien de fatal au départ. Et cette catastrophe n’est pas un cas isolé. En 2010, une grande enquête menée sur les accidents de vols commerciaux survenus au cours des dix ­dernières années a révélé que près des deux tiers d’entre eux étaient dus à des erreurs de pilotage. Les spécialistes parlent du « paradoxe de l’automatisation ». Même si l’automatisation est utilisée dans l’espoir de réduire les risques d’erreur humaine, elle finit par rendre celle-ci plus probable en érodant les compétences. D’ailleurs, l’Agence fédérale de…
Pour lire la suite de cet article, JE M'ABONNE, et j'accède à l'intégralité des archives de Books.
Déjà abonné(e) ? Je me connecte.
Imprimer cet article
0
Commentaire

écrire un commentaire