L’esprit critique ne prend pas de vacances ! Abonnez-vous à Books !

Le triomphe de la science du comportement

Sauvegarder cet article

Les géants d’Internet en sont tous des adeptes. Inaugurée par le psychologue et Nobel d’économie Daniel Kahneman, cette science informe les spécialistes de la manipulation marketing et donne une légitimité à leur entreprise. Mais est-elle aussi solide qu’on le dit ?


© Renaud Bouchez / Society / Signatures

Si les psychologues pouvaient accéder à une compréhension systématique de nos motivations non rationnelles, ils auraient le pouvoir d’influencer les aspects les plus intimes de notre vie.

Nous ne pouvons plus échapper aux sciences du comportement. Les résultats de la psychologie sociale et de l’économie comportementale sont exploi­tés pour déterminer les informations que nous lisons, les produits que nous achetons, la sphère culturelle et intellectuelle que nous habitons et les réseaux humains auxquels nous appartenons, sur Internet ou dans la vie réelle. Divers ­aspects de nos sociétés autrefois régis par les habitudes et la tradition ou bien par la spontanéité et le caprice sont désormais les conséquences, voulues ou non, de décisions prises sur la base de théories scientifiques de l’esprit et du bien-être. Les techniques comportementalistes utilisées par les États et les entreprises n’en appellent pas à notre raison ; elles ne cherchent pas à nous convaincre à l’aide d’informations et d’arguments. Elles modifient nos comportements en sollicitant nos motivations non rationnelles, nos stimulants émotionnels et nos biais cognitifs inconscients. Si les psychologues pouvaient accéder à une compréhension systématique de ces ­motivations non rationnelles, ils auraient le pouvoir d’influencer les aspects les plus intimes de notre vie et les traits les plus fondamentaux de la société. Le livre de Michael Lewis raconte l’amitié complexe et le remarquable partenariat intellectuel entre Daniel Kahneman et Amos Tversky, les psychologues dont les travaux ont fondé la nouvelle science comportementale. En un mot : quand notre intelligence déraille, elle le fait de manière prévisible [lire « Ce que je pense est-il fondé ? », Books, septembre-­octobre 2017]. Grâce aux divers résultats contre-intuitifs obtenus avec Tversky, écrit Kahneman, « nous comprenons désormais les merveilles mais aussi les errements de la pensée intuitive ». Kahneman a présenté ce nouveau modèle du fonctionnement de l’esprit dans un livre destiné au grand public : Système 1, système 2. Les deux vitesses de la pensée (1). Il voit à l’œuvre l’imbrication de deux systèmes de pensée. Le système 1, rapide et automatique, comprend les instincts, les émotions et autres facultés innées que l’homme partage avec le monde animal, ainsi que des associations et des facultés apprises. Le système 2, lent et délibératif, nous permet de corriger les erreurs faites par le système 1 [lire « Éloge de la pensée lente », Books, mai 2012]. Le récit que fait Lewis de cette révo­lution intellectuelle commence en 1955. Alors âgé de 21 ans, Kahneman conçoit des tests de personnalité pour l’armée ­israélienne. Il constate qu’on obtient une précision optimale avec des tests qui éliminent autant que possible les sentiments de l’examinateur. Cet épisode impres­sionne particulièrement Lewis, car, dans son best-seller Moneyball (2003), il racontait une histoire analogue : Billy Beane, patron de l’équipe de base-ball Oakland Athletics, avait montré, pour la recherche de bons joueurs, la supériorité des nouvelles techniques d’analyse de données sur le jugement intuitif des sélectionneurs.   Dans The Undoing Project, Lewis évoque aussi le psychologue Lewis Goldberg, un collègue de Kahneman et Tversky du temps où ils travaillaient à l’Oregon Research Institute dans les années 1970. Goldberg avait découvert qu’un simple algorithme pouvait mieux diagnostiquer un cancer que des spécialistes de haut niveau faisant la part trop belle à leurs émotions et à des intuitions fausses [lire « Deux ou trois leçons de la psychologie », Books, septembre-octobre 2017]. De toutes les découvertes de Kahne­man et Tversky, c’est la « théorie des perspectives » [prospect theory] qui a exercé la plus forte influence pour fonder ­l’approche « heuristiques et biais » des nouvelles sciences du comportement (2). Ils ont exploré la façon dont nous prenons des décisions dans des situations d’incertitude et découvert que notre comportement allait à l’encontre de la théorie dite de l’utilité espérée, un présupposé essentiel de la théorie économique, qui veut que la prise de décision se fasse en raisonnant sur la meilleure manière de maximiser ses gains (3). Kahneman et Tversky ont constaté que les erreurs en série dans les prises de décision n’étaient pas simplement le fait du hasard. Ils ont identifié une dizaine de « violations systématiques des axiomes de rationalité dans les paris effectués ». Le caractère systématique de ces erreurs rend l’irrationalité prévisible. Sensible aux turbulences politiques que vivaient les deux jeunes chercheurs en Israël, Lewis raconte comment ils ont peu à peu compris l’importance des émotions dans l’analyse intuitive de la probabilité et du risque. Après la guerre de Kippour, en 1973, les Israéliens ont profondément regretté d’avoir eu à se battre avec le désavantage d’avoir été pris par surprise. Mais ils n’ont pas ­regretté de ne pas avoir choisi de faire ce qui, selon Kahneman et Tversky, aurait pu leur éviter la guerre : rendre les territoires occupés depuis la guerre de 1967. Dans cet exemple comme dans d’autres, il leur semble que les gens regrettent les pertes subies de leur fait plus qu’ils ne regrettent l’inaction qui aurait pu leur éviter les pertes.   Leurs recherches ont permis de dégager les heuristiques – ou règles empiriques –, désormais bien connues, qui désignent différentes failles de la pensée intuitive. Certaines semblent partager la même base émotionnelle : ainsi l’effet de dotation (la tendance à attribuer une plus grande valeur à ce que l’on possède), le biais de statu quo (la tendance à préférer que les choses restent en l’état) ou encore l’aversion pour la perte (la tendance à attacher plus d’importance aux pertes potentielles qu’aux gains potentiels) ont tous trait à un conservatisme foncier à l’égard de ce dans quoi nous avons déjà investi. Que chacun de nous soit victime de ces biais est souvent facile à reconnaître. L’« heuristique de disponibilité », par exemple, désigne la propension à surévaluer la probabilité de survenance d’un événement qui est fortement présent à l’esprit en raison d’un épisode récent. Après un grave attentat terroriste, la peur d’être victime d’un attentat est dispro­portionnée par rapport au risque réel, comparé à d’autres risques comme celui de mourir dans un accident de voiture. Le dévoilement de ces biais cognitifs n’empêche pas Lewis de positiver. D’après lui, ce nouveau savoir psychologique offre la perspective de compenser notre irrationalité de façon à améliorer notre bien-être en général. C’est le propos de l’économie comportementale, un champ défriché par Richard Thaler dans le sillage de Kahneman et Tversky. Pour contrecarrer l’heuristique de disponibilité, on peut rappeler les gens à la raison à l’aide de faits bien présentés. Pour contrecarrer le biais de statu quo, qui risque de dissuader les gens de prendre des mesures qui leur seraient profitables, il est possible de mettre en place des dispositifs fortement incitatifs. Au lieu de laisser les gens refuser de choisir entre plusieurs régimes de retraite, par exemple, les inscrire automatiquement en leur laissant seulement le choix d’y renoncer. C’est ce que fit le juriste Cass Sunstein lorsque Barack Obama l’appela à ses ­côtés à la Maison-Blanche. Il conçut des « architectures de choix », autant de « coups de pouce » pour aider les gens à faire les bons choix tout en se fondant sur leur appareil intuitif. Sous la plume de Lewis, le bénéfice potentiel pour la société relève d’une sorte de magie, comme un rayon de lune pénétrant par effraction dans le lit des Américains endor­mis : « Des millions de salariés et de fonctionnaires ont découvert un jour à leur réveil qu’ils n’avaient plus besoin de s’affilier à un régime de retraite, ils l’étaient automatiquement. » Dans leur livre « Coup de pouce », Sunstein et Thaler appellent « paternalisme libertarien » la philosophie poli­tique à la base de ce type d’interventions (4). « Libertarien » parce qu’ils ne rendent rien d’obligatoire mais orientent simplement les choix ou fournissent des incitations susceptibles d’« apporter un mieux-être, à en juger par les intéressés eux-mêmes ». Ils soutiennent que cette forme d’influence, même si elle s’exerce souvent de façon inconsciente, n’est ni manipulatrice ni coercitive parce que l’individu conserve la possibilité de faire un autre choix. Lewis conclut son livre par un hymne à cette philosophie.   Mais il ne dit rien de la façon dont cette même science du comportement peut être utilisée de manière tout à fait délibérée pour tromper et manipuler. C’est pourtant l’une de ses applications les plus importantes. Frank Babetski, un analyste de la CIA qui occupe aussi la chaire Techniques d’espionnage analytique à l’université de la CIA, a fait du livre de Kahneman une « lecture obligée » pour les agents du renseignement. « Tromper efficacement repose fondamentalement sur les biais inconscients de la cible, ce qui rend celle-ci particulièrement sensible à ce qu’elle est disposée à croire », écrit-il dans une revue spécialisée (5). Il se place dans le cadre d’une ­société démocratique, mais, ce faisant, ­révèle le potentiel implicite de coercition que recèlent ces outils. Plus grave à mon sens, Lewis passe complètement sous silence le fait que les spécialistes du comportement ­assurent être en mesure de manipuler la vie émotionnelle des gens pour formater leurs préférences, leurs valeurs et leurs désirs les plus fondamentaux. Nos intuitions sont instables et contradictoires. Rétros­pectivement, nous pouvons juger une expérience plus agréable que nous ne l’avions noté à l’époque. En creusant avec d’autres le champ de la psychologie positive, Kahneman a contribué à fonder une nouvelle discipline, la psychologie hédonique. Celle-ci ne mesure pas simplement le plaisir mais le bien-être au sens large, de façon à rendre compte de notre état d’une façon plus objective que ce que nous autorise notre jugement personnel. Cette nouvelle discipline a été la première à coupler science du comportement et big data, ce qui a considérablement étendu les applications possibles des idées de Kahneman et Tversky. Témoin la collaboration entre les psychologues du World Well-Being Project (Projet mondial pour le bien-être) de l’université de Pennsylvanie et les informaticiens cognitifs du Centre de psychométrie à l’université de Cambridge. Ces derniers ont mis au point myPersonality, une application Facebook qui proposait aux usagers de faire des tests de personnalité et a permis ainsi de rassembler 6 millions de résultats et 4 millions de profils individuels (6). Les résultats des tests ont pu être combinés avec les énormes volumes de données issus de l’environnement Facebook de chaque utilisateur. Ils ont aussi été confrontés à des modèles d’évaluation de la personnalité tels qu’Ocean, autrement dit les big five [lire « Au centre du débat : le big data »]. Pour donner un exemple, des expressions comme « apparemment » ou « en fait » sont considérées comme corrélées à un haut niveau de névro­sisme. Les développeurs de
myPersonality assurent que ces tests, combinés à d’autres données, permettent de prévoir le niveau de bien-être d’un individu.  

Plus personne ne croit que la science du comportement œuvre pour un monde meilleur

L’idée directrice du World Well-Being Project est que nous ne devrions pas nous fier à notre jugement subjectif, forcément défectueux, sur ce qui va nous rendre heureux ou sur le chemin susceptible de donner sens à notre vie. On lit sur le site du projet : « Notre espoir est qu’à terme nos intuitions et analyses aideront les individus, les organisations et les États à prendre des mesures et à choisir des politiques qui ne soient pas seulement dans l’intérêt économique des gens ou des entreprises mais améliorent réellement leur bien-être. » Mais la question est de savoir comment une telle ambition est compatible avec le souci de préserver sa liberté. Car la mani­pulation des préférences dicte désormais la commercialisation des analyses comportementales et est consubstantielle à l’économie numérique qui modèle une bonne partie de notre existence. En 2007 et 2008, Kahneman a animé une masterclass sur le thème « Penser ce que c’est que penser », à laquelle ont participé, entre autres, Jeff Bezos (le fondateur d’Amazon), Larry Page (Google), Sergey Brin (Google), ­Nathan Myhrvold (Microsoft), Sean Parker (Facebook), Elon Musk (Space X, Tesla), Evan Williams (Twitter) et Jimmy Wales (Wikipedia). Lors de la masterclass de 2008, Richard Thaler est intervenu pour parler de ses « coups de pouce ». Sur les vidéos en ligne, on le voit décrire des archi­tectures de choix qui guident vers tel ou tel compor­tement mais permettent au sujet de revenir sur sa décision en un clic s’il n’est pas satisfait du résultat. On voit Kahneman, pour sa part, expliquer aux entrepreneurs de la Silicon Valley les vertus du priming (l’amorçage, le fait de commencer par installer une atmo­sphère favorable) : c’est selon lui l’un des domaines les plus importants de la recherche en psychologie, une technique consistant à présenter des stimuli subliminaux (par exemple faire défiler des visages souriants sur un écran à une cadence telle qu’ils sont indétectables) de façon à influer sur l’état d’esprit et la conduite des usagers. L’amorçage induit des réflexes cohérents et prévisibles, donc exploitables. Si les ­sujets ne sont pas conscients de l’influence ainsi exercée, leur liberté d’y résister paraît plus théorique que réelle. Les patrons de la Silicon Valley ont bien sûr compris l’usage commercial qu’ils pouvaient faire de ces techniques, qui sont devenues partie intégrante de leur activité. Thaler et Sunstein ont ­publié sur leur site consacré aux « coups de pouce » (nudges.org) un entretien avec John Kenny, cofondateur de l’Institute of Decision Making, dans lequel il dit : « On ne peut pas comprendre le succès de plateformes numériques comme Amazon, Facebook, Farmville ou Nike Plus si on ne comprend pas les principes de l’économie comportementale. » Dans une lettre à ses actionnaires datant d’avril 2015, Jeff Bezos assure que les vendeurs d’Amazon jouissent d’un avantage commercial considérable, car, « grâce à notre programme Selling Coach, nous générons un flux continu de “coups de pouce” automatisés (plus 70 millions pour une semaine type) ». Difficile d’imaginer que ces 70 millions de « coups de pouce » laissent aux clients d’Amazon toute liberté pour ne pas suivre, après réflexion, la direction dans laquelle ils ont été orientés. Facebook a aussi suivi le chemin tracé par Kahneman et Thaler, ce qui lui a valu une publicité négative. En 2012, les chercheurs de sa Core Data Science Team, associés à des scientifiques de l’université Cornell et de l’université de Californie à San Francisco, avaient expérimenté le priming émotionnel auprès de quelque 700 000 usagers qui n’en avaient pas été informés. L’objet était de voir si la manipulation de leur fil d’actualité leur ferait rédiger des publications plus positives ou négatives. Quand la chose fut révélée en 2014, le sentiment général fut qu’il s’agissait d’une forme inacceptable de manipulation psychologique. Facebook se défendit en faisant valoir que les conditions d’utilisation acceptées par les usagers du réseau social autorisaient ce type d’expérience. Nathan Myhrvold, l’ancien directeur de la technologie de Microsoft qui participa à la masterclass de Kahneman en 2007, a travaillé par la suite pour la société de conseil créée par Kahneman, TGG Group. D’après son site Internet, cette société se propose de « dévoiler le savoir caché dans le big data », de « concevoir […] des architectures de choix » et de « réduire le bruit dans la prise de décision » (autrement dit éliminer les incohérences créées au sein des organisations par les jugements subjectifs contradictoires). Le site Web en question ne donne pas la liste des clients de TGG, mais on sait que Deutsche Bank a été du nombre. Conjuguée au big data, la science du comportement est devenue un outil extra­ordinairement puissant pour les acteurs de l’économie et de la finance, et Kahneman n’est pas resté à l’écart de ces applications. Le livre de Lewis s’achève sur la sonnerie du téléphone dans le séjour de Kahneman un matin d’octobre 2002 : on lui annonce l’attribution du prix Nobel avec ­Tversky. Mais l’histoire de la façon dont leurs idées et le big data sont en train de transformer silencieusement la société ne fait que commencer.   Depuis l’élection surprise de Donald Trump, plus personne ne croit que la science du comportement œuvre à un monde meilleur. Comme le reconnaît le conseiller et gendre de Trump Jared Kushner, son équipe a adopté la stratégie décrite par Lewis dans Money­ball » (7). Les équipes d’Obama et de Hillary Clinton ont certes l’une et l’autre exploité les réseaux sociaux, l’analyse de données et un ciblage affiné pour promouvoir leur message, mais, selon Forbes, l’équipe de Trump est allée plus loin, « exploitant la personnalisation des messages, la mani­pulation des sentiments et l’appren­tissage automatique ». Exagéré ? Cela reflète bien, en tout cas, les talents affi­chés par Cambridge Analytica, une entreprise britannique filiale de SCL Group, à laquelle l’équipe de Trump a fait appel. Cambridge Analytica, dont le conseil d’administration a accueilli Steve Bannon, l’ex-stratège en chef de Trump, est aussi tenue responsable par la presse de la ­victoire du non au référendum sur le Brexit de juin 2006. Dans une présentation inti­tulée « Le pouvoir du big data et de la psychographie », disponible sur YouTube, son P-DG, Alexander Nix, ­affirme que Cambridge Analytica a combiné les tests de personnalité Ocean avec les données collectées sur les ­réseaux sociaux afin de produire des « profils psychographiques » (modèles prédictifs des traits de personnalité) pour chaque Américain adulte. Ils l’ont fait sans le consentement des inventeurs de la technologie, Michal Kosinski et David Stillwell, qui animent le Centre de psychométrie de l’université de Cambridge. Nix affirme que sa ­société dispose de 4 000 à 5 000 données sur chaque électeur, grâce au croisement des tests de personnalité et de données « attitudinales », comme le rythme et la composition des dépenses par carte de crédit, les préférences de consommation, les « J’aime » sur Facebook et les activités associatives et politiques. Il y a un curieux déphasage dans la présentation de Nix, quand il dit d’une part que des centaines de milliers de personnes ont rempli les questionnaires de Cambridge Analytica et d’autre part que son entreprise dispose de données sur chaque Américain adulte. Soit il se vante, soit il y a une enquête à faire sur les moyens utilisés pour disposer d’une telle masse d’informations. Quoi qu’il en soit, il assure pouvoir utiliser les données recueillies par sa société avec des cookies, des données fournies par des câblopérateurs et d’autres outils pour cibler des publics particuliers avec des messages efficaces car fondés sur la science du comportement. Pour illustrer ces méthodes « com­portementales » de persuasion, Nix donne l’exemple d’un propriétaire de plage privée qui souhaite en interdire l’accès. Il peut décider de mettre un panneau « informationnel » destiné à instruire les comportements, du genre « La plage publique s’arrête ici : propriété privée ». Ou bien il peut chercher à « tester une motivation beaucoup plus puissante », en mettant un panneau « Attention, requins ». La crainte d’être dévoré par un requin sera plus efficace, dit Nix. Des vidéos réalisées par l’Institut de dynamique comportementale, le département recherche de Cambridge Analytica, ­présentent des stratégies qui en appellent directement aux peurs et désirs latents, dans le sillage de l’économie comportementale, mais qui, pour influencer les motivations du système 1, n’hésitent pas à user de mensonges ou de demi-vérités. Comme l’a montré Sasha Issenberg dans un livre paru en 2012, « Le labo de la victoire. La science secrète des campagnes gagnantes », le recours aux techniques comportementales et au micro­ciblage n’est pas nouveau en politique. Tous les candidats sont en quête de profils psychographiques exacts et détaillés, et c’est ce que vend Nix. Certains doutent que l’équipe de Trump ait effectivement utilisé ces techniques, même si Cambridge Analytica affirme que c’est le cas. Et tout le monde n’est pas convaincu que les méthodes psychographiques décrites par Nix soient réellement efficaces (8).  

Des entreprises disent posséder l'arme pour gagner des combats idéologiques à grande échelle

Il est impossible de vérifier les affirmations d’entreprises comme Cambridge Analytica, car il n’y a pas de groupe de contrôle mais seulement des données d’observation ambiguës obtenues dans un environnement confus. Cela ne signi­fie pas que la préférence accordée à la manipulation inconsciente sur une infor­mation pouvant être soumise à un examen critique ne constitue pas une menace pour la démocratie. Que les affirmations de Cambridge Analytica soient vraies ou pas, l’existence même d’entreprises de ce type nous en dit long sur le poids qu’exercent désormais les influences inconscientes dans les campagnes politiques. Le TGG Group de Kahneman n’œuvre pas dans le secteur de l’influence politique. Mais selon Issenberg, en 2006, une structure privée de l’université de Californie à Los ­Angeles, le Consortium des scientifiques compor­tementalistes, qui comprenait Kahneman et Thaler, entreprit de persuader les démocrates qu’ils auraient intérêt à exploiter la science du comportement. Le groupe est resté confidentiel, par crainte des réactions. Aujourd’hui, les stratégies comportementalistes ont en­vahi le paysage et se mènent au grand jour. On ne parle plus de « propagande » mais d’« approche comportementaliste de la communication persuasive avec résultats quantifiables » [Lire « Les habits neufs du marketing politique »]. Des entreprises comme SCL Group affirment disposer de l’arme pour gagner des combats idéologiques à grande échelle. Dans une vidéo, Nigel Oakes, le patron de SCL Group, fait une présentation au Département d’État américain au nom d’une de ses filiales, SCL Defence. Il explique que les annon­ceurs classiques qui s’adressent à des indi­vidus et captent 0,6 % du marché sont considérés comme très performants. Mais la communication stratégique, ­selon lui, doit cibler des groupes. « Cela ne sert à rien d’avoir 0,6 % de Syriens qui vous soutiennent, ou 0,6 % d’Al-Qaïda. Il faut convaincre des communautés entières. » La partie de la vidéo où il expose ses méthodes n’est pas accessible. Il s’agit là d’une prétention exorbitante – même si cette entreprise bénéficie d’une réelle expérience de terrain, grâce aux opérations psychologiques menées par Steve Tatham, un ancien officier de la British Navy. Il a travaillé avec Andrew Mackay, le commandant des forces britanniques en Afghanistan, pour gagner le soutien de la population dans des zones qui avaient été « dévastées par l’acti­vité cinétique », à l’aide de techniques de persuasion dérivées de l’économie comportementaliste et adaptées au théâtre d’opérations. Plusieurs de ces techniques avaient été suggérées par Kahneman et Tversky dans un article de 1995 intitulé « Résolution des conflits : une perspective cogni­tiviste ». Tatham et Mackay racontent dans un livre comment ils ont exploité ces techniques dans la guerre afghane (9). Ils ont fait appel à la théorie des perspectives et constaté que pour les populations locales la crainte de perdre encore davantage était plus forte que l’espoir d’engranger des bénéfices. Malgré son importance stratégique, la reconstruction du barrage de Kajaki, par exemple, était une perspective trop éloignée pour limiter les activités rebelles alentour. Il fallait trouver des incitations plus immédiates. Les réflexions de Kahneman et Tversky sur la « sagesse des foules » leur ont servi pour une prise de décision au sein d’une choura (assemblée de chefs de village), où il s’agissait de donner un pouvoir de décision à des individus ayant « des idées justes mais une très faible autorité ». Impossible cependant d’obtenir des données sur le succès de ces initiatives, vu l’opacité des facteurs psychologiques impliqués et la grande difficulté de comparer avec des groupes témoins. Quand ceux qui entendent persuader une population arrivent avec des chars, des fusils et des drones, et que la population elle-même est divisée, il n’est pas facile de déterminer dans quelle mesure la coopération enga­gée avec les forces d’occupation est le résultat de techniques comportementalistes. Nous ne disposons pas de données scientifiques permettant d’évaluer à quel point des militaires peuvent influencer le comportement de groupes sur une large échelle de manière non coercitive dans une zone de conflit. Et reste à prouver qu’il est possible d’obtenir l’adhésion de la majorité de la population dans un État quelconque. SCL Group, qui se prévaut de maîtriser l’art d’influencer tant en ligne que sur le terrain, a néanmoins signé l’hiver dernier un contrat de 500 000 dollars avec le ­Département d’État. Selon The Washington Post, il a aussi négocié avec l’administration Trump pour « aider le Pentagone et d’autres organismes publics sur des programmes de déradicalisation ».   L’idée de « paternalisme libertarien », en vertu de laquelle les outils des nouvelles sciences du comportement restent aux mains de mandarins libéraux bienveillants, paraît complètement dépassée. Dans un environnement de plus en plus conflictuel et instable, il importe de se pencher sur notre capacité à réguler les usages de la science du comportement, de tester la validité de la recherche fondamentale qui la sous-tend et de surveiller les motivations politiques ou financières des initiatives comportementalistes de toute nature. Les formes non rationnelles de persuasion n’ont bien sûr rien de neuf. Mais, aux yeux de beaucoup de psychologues sociaux, Kahneman et Tversky offrent une théorie profondément originale de l’esprit humain, qui met en évidence des sources systématiques et inconscientes de l’irrationalité, rappelant la façon dont des générations précédentes de psychologues se sont emparées de l’idée freudienne de l’inconscient. L’idée que la psychologie sociale et l’économie comportementale sont enracinées dans une recherche fondamentale solide donne l’imprimatur du dernier état de la science aux millions d’initiatives comportementalistes entreprises aujourd’hui dans le monde. Quand le livre de Kahneman Système 1, système 2 est paru en 2011, il a suscité des comparaisons avec les innovations de Descartes, de Darwin et de Freud. Mais cela fait longtemps que des philosophes expriment des doutes sur le modèle kahne­manien des deux systèmes. Dès 1981, L. Jonathan Cohen ­publiait un article inti­tulé « L’irrationalité ­humaine peut-elle être démontrée expérimentalement ? ». Il y ­exprimait différentes ­critiques à l’égard des travaux de Kahneman et Tversky. Celle qui a le plus touché Kahne­man était l’idée qu’il n’est pas si facile de séparer l’intuition des autres fonctions cognitives, qu’en réalité nous n’avons d’autre choix que de nous reposer sur l’intuition pour raisonner.  

Tout pousse à exploiter les irrationalités plutôt qu'à chercher à les éliminer

Kahneman rejeta l’idée qu’il existe un monde de l’intuition résistant à toute analyse rationnelle, au ­motif que « les gens se laissent souvent ­séduire par des intuitions présentant des contradictions ». Si nos intuitions entrent en conflit, il faut faire appel à la délibération rationnelle pour arbitrer. Mais ce ­plaidoyer en défense ne prenait pas vraiment en compte ce que Cohen et d’autres philosophes entendent par ­« intui­tion », et du coup ne répondait pas à leur objec­tion que l’intuition est nécessaire à la ­délibération. Dans Système 1, système 2, Kahneman décrit les intuitions du système 1 comme rapides et automatiques, le raisonnement propre au système 2 comme lent et délibératif. En d’autres termes, il caractérise nos jugements intui­tifs d’un point de vue phénoménologique (vitesse et absence d’effort). Or, quand les philosophes parlent du rôle de l’intuition, ils n’ont pas en tête la phénoménologie des jugements mais l’architecture du mode de justification. Il nous faut nous fier à l’intuition, disent-ils, quand nos justifications discursives butent sur une impasse. Pour donner un exemple, en logique fondamentale, la croyance dans le principe de non-contradiction ne peut se justifier sans appeler de nouvelles questions. Sa seule justification est que nous le jugeons évident. Impossible de réfléchir rationnellement sans y faire appel. Puisqu’elles sont nécessaires à toute pensée délibé­rative, il est impossible de classer les fonctions mentales soit dans un système 1 intuitif, soit dans un système 2 délibératif. Une autre difficulté survient quand nous tentons d’attribuer les erreurs à un ensemble particulier de biais systématiques. De même, lorsqu’un jugement semble affecté par des stimuli hors de propos – par exemple penser à notre mort nous rend moins enclin à prendre des risques (biais d’amorçage) –, imputer cela de façon certaine à des propriétés du système 1 exigerait au préalable d’écarter un grand nombre d’autres facteurs poten­tiels. Si les deux systèmes de pensée sont moins distincts l’un de l’autre que ne le soutient Kahneman, il devient difficile de réduire à une erreur identifiable et systématique les interactions complexes entre les biais inconscients, les croyances de fond et la délibération. Si ces objections sont justifiées, cela voudrait dire que nombre des expériences psychologiques que Kahneman cite dans Système 1, système 2 seraient impossibles à reproduire. Or, l’année de la parution du livre, le champ de la psychologie a justement connu une crise de la repro­ductibilité. Le psychologue Ulrich Schimmack a récemment créé un indice de reproductibilité qui analyse la signification statistique des résultats publiés en psychologie. Avec ses collaborateurs Moritz Heene et Kamini Kesavan, il a analysé les études citées dans Système 1, système 2, en assignant une note de A à F à chaque chapitre. Les travaux de Kahneman et Tversky eux-mêmes s’en tirent assez bien, mais d’autres beaucoup moins. Le chapitre sur l’amorçage, par exemple, reçoit un F. La note moyenne attribuée aux chapitres analysés est C. Kahneman a répondu honnêtement, en regrettant d’avoir cité des études reposant sur de faibles échantillons. Il y a là un réel problème pour l’approche « heuristiques et biais » de la persuasion. Les psychologues n’ont pas encore mis au jour les mécanismes fondamentaux qui gouvernent la pensée ni trouvé la clé secrète permettant d’accéder au contrôle des esprits. Certains des biais qu’ils ont identifiés peuvent aisément être décrits autrement, de façon à ne sembler nullement irrationnels. Certains ne sont pas transposables d’un contexte à un autre. L’hypothèse de base de l’existence de deux systèmes ne tient plus. Cela ne signifie pas qu’il faille sous-­estimer les actions de propagande déri­vées des travaux de Kahneman et Tversky. Beaucoup des techniques de persuasion employées dans ces actions sont connues intuitivement depuis des siècles. Elles ont été exploitées par des États, des religions et dans les arts. La différence c’est qu’aujourd’hui ces techniques sont testées à grande échelle et couplées avec une analyse des données sophistiquée. L’idée des deux systèmes a servi à donner l’apparence de la légitimité à des procédés qui pourraient autrement sembler coercitifs. Experts, algorithmes et « coups de pouce » peuvent être présentés comme une forme de rationalité collective, bénéficiant de l’aide des marchés et des États, qui défont discrètement les nœuds d’irra­tionalité dans lesquels les gens se sont inévitablement empêtrés. Selon ce modèle, il apparaît que le système 2, mis en œuvre par nos fonctions supérieures, peut nous libérer des failles du système 1. Si nous rejetons la distinction entre ces deux systèmes supposément séparés pour nous attacher à considérer ce qui peut ou ne peut pas se justifier rationnellement, il devient évident que le changement psychologique qui nous est imposé par des moyens non rationnels est plus coercitif que celui produit par l’évaluation rationnelle des justifications, et qu’il érode notre faculté de réfléchir de façon rationnelle et critique sur le monde. Les sources d’influence qui modèlent les comportements, les marchés et la politique deviennent de plus en plus invisibles et difficiles à examiner rationnellement. On s’est moins soucié en revanche de chercher à contrecarrer les biais identifiés par les psychologues, sauf dans la mesure où cela répond à l’objectif sécuritaire de décourager l’extrémisme en introduisant des mesures destinées à combattre des effets comme le biais de confirmation. On peut encore penser que la science du comportement peut contribuer à fournir le type d’éducation citoyenne propre à nourrir les facultés critiques de chacun. Mais tout pousse à exploiter les irrationalités plutôt qu’à les éliminer, et la surenchère à laquelle on se livre pour les exploiter a créé un chaos qui est peut-être déjà trop installé pour que nous puissions le maîtriser.   — Cet article est paru dans The New York Review of Books le 20 avril 2017. Il a été traduit par Nicolas Saintonge.
LE LIVRE
LE LIVRE

The Undoing Project: A Friendship that Changed our Minds de Michael Lewis, Norton, 2016

SUR LE MÊME THÈME

Dossier Alain Prochiantz : « La radicale originalité de Sapiens »
Dossier Frans de Waal : « Ne confondons pas émotions et sentiments »
Dossier Ce que ressentent les animaux

Aussi dans
ce numéro de Books

Booksletter,
c'est gratuit !

Retrouvez gratuitement la Booksletter
chaque samedi matin dans votre boîte email.