Soutenez la presse indépendante ! Abonnez-vous à Books, à partir de 8€/mois.

Notre cerveau, ce tyran pétri de biais

Notre pensée est sujette à des erreurs systématiques. La machine humaine déraille allègrement. Toute une série de « biais cognitifs » ont été recensés. Mais peut-être accordons-nous trop d’importance à la rationalité.


© Anna Parini

Daniel Kahneman a reçu en 2002 le prix Nobel d’économie. Sauf qu’il est psychologue. Plus précisément, l’un des deux psychologues qui, à partir du début des années 1970, ont entrepris de démolir une entité chère à la théorie économique : ce décideur ultrarationnel que l’on appelle Homo economicus. L’autre membre de ce duo de démolisseurs, Amos Tversky, est décédé en 1996 à l’âge de 59 ans. S’il avait encore été en vie, il aurait certainement partagé le Nobel avec son associé et ami.

 

Le grand sujet de Daniel Kahneman est l’irrationalité humaine. Sa carrière comporte trois grandes étapes. Durant la première, Tversky et lui se sont livrés à une série d’expériences ingénieuses qui ont révélé l’existence d’une vingtaine de « biais cognitifs », ces erreurs de raisonnement inconscientes qui faussent notre vision du monde. Un bon exemple : l’« effet d’ancrage », notre tendance à nous laisser influencer par des chiffres dénués de toute pertinence (dans l’une des ­expériences, des magistrats allemands pourtant expérimentés ont été enclins à infliger une peine plus lourde à une voleuse à la tire simplement parce qu’ils venaient ­d’obtenir un chiffre élevé en lançant des dés pipés) 1. Au cours de la deuxième étape, Kahneman et Tversky ont montré que les décisions prises dans un contexte d’incertitude ne correspondent pas aux modèles économiques traditionnels ; les individus ne pensent pas alors à « maximiser l’utilité ». Dans la dernière partie de sa carrière, essentiellement après la mort de Tversky, Kahneman s’est consacré à la « psychologie hédonique », la science du bonheur, de sa nature et de ses causes. Et, dans ce domaine, il a fait des découvertes inquiétantes.

 

Système 1/Système 2 couvre ces trois étapes. C’est un livre stimulant intellectuellement et riche d’enseignements. Il est toujours divertissant et souvent émouvant, en particulier quand Kahneman évoque sa collaboration avec Tversky. Leurs travaux « resteront longtemps gravés dans les mémoires » et « marquent un tournant dans l’idée que nous nous faisons de la nature humaine », estime le chroniqueur du New York Times David Brooks.

 

Voilà qui me chagrine un peu. Un des leitmotivs du livre est l’excès d’assurance. Nous avons tous tendance, et les experts encore plus, à surestimer notre compréhension du monde, et Kahneman nous le rappelle. On peut en déduire qu’il est sensibilisé aux dangers de l’assurance excessive. Malgré tous les biais cognitifs, illusions et erreurs qu’il prétend avoir découverts ces dernières décennies avec Tversky (et d’autres chercheurs), il n’ose pas aller jusqu’à affirmer que les humains sont foncièrement irrationnels.

 

Ou bien si ? « Nous sommes pour la plupart en bonne santé la majeure partie du temps, tout comme l’essentiel de nos jugements et de nos actes sont la plupart du temps appropriés », écrit-il dans l’introduction. Pourtant, quelques pages plus loin, il remarque que les travaux qu’il a menés avec Tversky prennent « à rebours » l’idée en vigueur chez les sociologues dans les années 1970 selon laquelle « les gens sont généralement rationnels ». Les deux psychologues ont mis au jour « des erreurs systématiques dans la pensée de gens normaux », erreurs qu’ils n’attri­buaient pas aux effets pernicieux des émotions mais à « la conception même de la machine cognitive ».

 

Si Kahneman n’en déduit pas beaucoup d’enseignements en matière d’action publique, d’autres vont beaucoup plus loin, péchant peut-être par excès d’assurance. Brooks affirme ainsi que les recherches de Kahneman et ­Tversky montrent « les limites des politiques sociales » et notamment des mesures ­destinées à lutter contre le chômage.

 

C'est gratuit !

Recevez chaque jour la Booksletter, l’actualité par les livres.

Ce genre de conclusions hâtives, même si elles n’émanent pas de l’auteur lui-même, me font froncer les sourcils. Et, comme on l’apprend dans le livre, froncer les sourcils suffit à activer le sceptique qui sommeille en nous : c’est ce que ­Kahneman appelle le système 2. D’après ses expériences, un simple froncement de sourcils permet de réduire l’excès de confiance en soi ; il rend notre pensée plus analytique, plus vigilante, et nous pousse à mettre en doute des affirmations que, sans réfléchir, nous aurions tendance à accepter comme vraies parce qu’elles sont simples et cohérentes. Aussi ai-je froncé les sourcils pour lire avec le plus grand scepticisme ce livre passionnant.

 

Dans la théorie de Kahneman, le système 2 correspond à notre mode de raisonnement lent, réfléchi, analytique, conscient. Le système 1, au contraire, est un mode rapide, automatique, intuitif et largement inconscient. C’est le système 1 qui détecte l’hostilité dans la voix et qui complète sans effort l’expression « du pain et du… ». C’est le système 2 qui entre en action quand nous devons remplir notre déclaration d’impôts ou garer la voiture sur une place de parking étroite (comme l’ont observé Kahneman et d’autres, il existe un moyen facile de déterminer à quel point le système 2 est actif pendant l’accomplissement d’une tâche : regardez les yeux de l’individu et voyez à quel point les pupilles sont dilatées).

 

Plus généralement, le système 1 procède par association d’idées et par métaphores pour produire un premier brouillon des faits, dont s’inspire le système 2 pour en arriver à des convictions précises et à des choix raisonnés. Le système 1 propose, le système 2 dispose. C’est donc lui qui commande ? Oui, en théorie. Sauf que le système 2 n’est pas seulement plus rationnel et plus réfléchi : il est aussi paresseux. Et il fatigue vite (le terme en vogue est « épuisement du moi »). Trop souvent, au lieu de ralentir les choses pour les analyser, il se contente d’accepter la version simple mais peu fiable que le système 1 lui propose. « Bien que le système 2 croie être au cœur de l’action, c’est le système 1 automatique qui est le héros du livre », écrit Kahneman. Le système 2 est particulièrement somnolent, semble-t-il, quand nous sommes d’humeur joyeuse.

 

Parvenu à ce point, le lecteur sceptique se demandera s’il doit vraiment prendre au sérieux toute cette histoire de système 1 et de système 2. S’agit-il bel et bien de deux petits agents présents dans notre tête, doté chacun de sa personnalité ? Pas vraiment. Ce sont des personnages fictifs, précise Kahneman, qui sont utiles parce qu’ils aident à expliquer les bizarreries de l’esprit humain.

 

Pour le comprendre, prenons ce que Kahneman appelle « la plus célèbre et la plus débattue » de toutes les expériences qu’il a réalisées avec Tversky : le « problème de Linda ». On décrit aux participants une jeune femme fictive prénommée Linda : « Elle est célibataire, ne mâche pas ses mots et est très intelligente. […]. Quand elle était étudiante, elle se sentait très concernée par les questions de discrimination et de justice sociale. »

 

On demande ensuite aux participants de choisir la plus probable de ces deux propositions : 1) Linda est employée de banque. 2) Linda est employée de banque et milite au sein du mouvement féministe. Ils optent à une écrasante majorité pour la seconde réponse ; autrement dit, à partir des informations fournies sur Linda, « employée de banque féministe » est plus probable qu’« employée de banque » tout court. Évidemment, cela va à l’encontre des lois de la probabilité (toute employée de banque féministe est employée de banque ; ajouter un détail ne peut que réduire la probabilité). Pourtant, même parmi des étudiants en école de commerce, qui ont reçu une solide formation en calcul de probabilités, 85 % sont recalés sur le problème de Linda.

 

Où se situe l’erreur ? À une question simple (quel est le degré de cohérence du récit ?) s’en substitue une plus difficile (quel est son degré de probabilité ?). Selon Kahneman, c’est là l’origine de la plupart des biais qui contaminent notre réflexion. Le système 1 se précipite pour formuler une conclusion intuitive, fondée sur une « heuristique » (manière facile mais imparfaite de répondre aux questions difficiles), et le système 2 approuve paresseusement cette réponse heuristique sans se donner la peine de vérifier qu’elle est logique. Kahneman décrit des dizaines de failles de la rationalité démontrées expérimentalement : « négligence du taux de base », « biais de disponibilité », « illusion de validité », et ainsi de suite. Leur effet cumulé a de quoi faire désespérer le ­lecteur de la raison humaine.

 

 

Sommes-nous vraiment des cas désespérés ? Revenons sur le problème de Linda. Même le grand biologiste de l’évolution Stephen Jay Gould en était troublé. En bon spécialiste des probabilités, il connaissait la bonne réponse, mais il a fait cet aveu : « Un petit bonhomme dans ma tête continue de sauter sur place en me hurlant : “Mais elle ne peut pas être une simple employée de banque, lis donc la description !” » C’est le système 1 de Gould, nous assure Kahneman, qui ne cessait de lui crier la mauvaise réponse. Mais quelque chose de plus insidieux est peut-être à l’œuvre. Nos conversations quotidiennes se déroulent dans un contexte d’attentes implicites – ce que les linguistes appellent « implicatures ». Ces implicatures peuvent s’infiltrer dans les expériences psychologiques. Puisque certaines attentes facilitent notre conversation, il était peut-être tout à fait rationnel pour les participants de supposer que « Linda est employée de banque » sous-entendait qu’elle n’était pas en outre féministe. Auquel cas leur réponse n’était pas réellement erronée.

 

Ce n’est qu’un détail, dira-t-on. Mais il vaut pour plusieurs des biais que Kahneman et Tversky, ainsi que d’autres chercheurs, affirment avoir découverts dans le cadre d’expériences contrôlées. Dans une situation plus évidente – détecter un tricheur plutôt que résoudre une énigme logique ; raisonner sur des choses réelles plutôt que sur des symboles ; évaluer un total plutôt qu’un pourcentage –, on est moins susceptible de commettre les mêmes erreurs. C’est en tout cas ce que semblent indiquer des expériences ultérieures. Peut-être ne sommes-nous pas aussi irrationnels que cela après tout.

 

 

Certains biais cognitifs sont flagrants même dans les situations les plus naturelles. Prenez ce que Kahneman appelle l’« erreur de prévision » : notre tendance à surestimer les avantages et à sous-estimer les coûts, et donc à nous lancer bêtement dans des projets risqués. En 2002, les Américains qui avaient fait refaire leur cuisine, par exemple, avaient estimé que les travaux leur coûteraient en moyenne 18 658 dollars, alors que, au final, ils avaient déboursé 38 769 dollars 2.

 

Selon Kahneman, l’« erreur de prévision n’est que l’une des manifestations d’un biais optimiste omniprésent », qui « est peut-être le plus important des biais cognitifs ». En un sens, la tendance à l’optimisme est clairement mauvaise puisqu’elle engendre de fausses certitudes – celle de maîtriser des événements et non d’être les jouets du hasard. Mais sans cette « illusion de contrôle », serions-nous seulement capables de nous lever le matin ? Les optimistes sont plus résilients, leur système immunitaire est plus fort et ils vivent en moyenne plus longtemps que leurs homologues plus ancrés dans le réel. De plus, comme le note Kahneman, les individus et les organisations exagérément optimistes sont protégés contre les effets paralysants d’un autre biais, l’« aversion à la perte », qui fait attacher davantage d’importance à une perte qu’à un gain du même montant.

 

Quand bien même nous pourrions nous débarrasser des biais décrits dans ce livre – ce dont Kahneman doute, au vu de son expérience – il n’est pas du tout certain que cela nous rende la vie plus légère. D’où cette question fondamentale : à quoi sert la rationalité ? Après tout, notre espèce a survécu. Nos facultés quotidiennes de raisonnement ont évolué pour s’adapter à un environnement dynamique et complexe. Il y a donc de grandes chances qu’elles puissent s’adapter à cet environnement, même si elles sont ­parfois prises au piège des expériences un peu artificielles du psychologue. D’où viennent les normes de la rationalité, sinon d’une idéalisation de la manière dont les humains raisonnent ordi­nairement ? En tant qu’espèce, nos jugements ne sauraient être plus entachés de biais que notre usage du langage n’est entaché de fautes de grammaire, objectent des critiques des travaux de Kahneman et Tversky.

 

Kahneman n’aborde jamais la rationalité d’un point de vue philosophique. Il offre en revanche un exposé captivant de ce qui pourrait être son objectif : le bonheur. Qu’est-ce qu’être heureux ? Quand il s’est posé la question pour la première fois, vers le milieu des années 1990, ­l’essentiel de la recherche sur le bonheur consistait à interroger des personnes sur leur degré global de satisfaction. Mais ce genre d’évaluation rétrospective repose sur la mémoire, dont on connaît le manque de fiabilité. Et si notre véritable expérience du plaisir ou de la douleur pouvait être étudiée d’instant en instant, puis synthétisée sur une période donnée ?

 

Kahneman parle à ce propos de « bien-être expérimenté », par opposition au « bien-être mémorisé » auquel se fiaient jadis les chercheurs. Et il s’est aperçu que ces deux mesures du bonheur divergent. Ce qui rend heureux le « moi expérimentant » n’est pas ce qui rend heureux le « moi mémoriel ». Peu importe à ce dernier combien de temps a duré une expérience agréable ou désagréable. Il évalue rétrospectivement une expérience selon le pic de douleur ou de plaisir ressenti à un moment donné, et selon la manière dont l’expérience a pris fin.

 

C’est le moi mémoriel qui commande, pas le moi expérimentant. Kahneman cite une étude montrant que si un étudiant décide de repartir en vacances, son choix est dicté par la « règle pic-fin » appliquée aux vacances précédentes, et non par le plaisir (ou déplaisir) qu’il a ressenti d’instant en instant. Le moi mémoriel exerce une sorte de tyrannie sur le moi expérimentant, qui n’a pas voix au chapitre. « Aussi étrange que cela puisse paraître, écrit Kahneman, je suis mon moi mémoriel, et le moi expérimentant, à travers lequel je vis, est comme un étranger. »

 

Si radicale qu’elle puisse paraître, la conclusion de Kahneman ne va peut-être pas assez loin. Le moi expérimentant peut tout bonnement cesser d’exister. Les expériences de neuro-imagerie menées par Rafi Malach et ses collègues de l’Institut Weizmann, en Israël, ont montré que, quand un sujet est absorbé par une expérience (regarder Le Bon, la Brute et le Truand, par exemple), les régions du cerveau associées à la conscience de soi ne sont pas seulement au repos, mais éteintes (« inhibées ») par le reste du cerveau. Le moi semble tout bonnement disparaître. Alors qui regarde le film, exactement ?

 

Quand je suis arrivé à la dernière page de Système 1/Système 2, il y a belle lurette que mon froncement de sourcil sceptique avait disparu au profit d’un large sourire de satisfaction intellectuelle.

 

— Cet article est paru dans The New York Times le 25 novembre 2011. Il a été traduit par Laurent Bury.

Notes

1. Kahneman et Tversky avaient aussi montré que des juges israéliens statuant sur des requêtes d’aménagement de peine accédaient à 35 % des demandes en moyenne, mais que cette proportion passait à 65 % après la pause déjeuner.

2. Une erreur de prévision courante consiste aussi à sous-estimer le temps nécessaire pour accomplir une tâche.

Pour aller plus loin

Dans ce dossier :

LE LIVRE
LE LIVRE

Système 1, système 2 de Daniel Kahneman, Flammarion

SUR LE MÊME THÈME

Dossier « AMLO », le messie du Mexique
Dossier La planète des régimes autoritaires
Dossier Donald Trump, les premiers pas d’un apprenti autocrate

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.