Les Aliens de l’IA

Les performances de l’intelligence artificielle sont stupéfiantes et continuent d’avancer à pas de géant. Chercheur en neurosciences à l’université d’Oxford, Christopher Summerfield se demande si l’IA a accès au sens et à la connaissance, et répond oui. Melanie Mitchell, professeure au Santa Fe Institute, ne partage pas pleinement son point de vue mais fait un compte rendu aussi éclairant qu’élogieux de son livre dans le Times Literary Supplement.

Elle rappelle d’abord que si le deep learning des réseaux de neurones a bien enclenché la révolution actuelle, c’est une nouvelle invention, le « transformeur », réalisée en 2017, qui a permis aux « grands modèles de langage » (LLM) de générer les prouesses du genre ChatGPT. Prouesses telles que « leur complexité rend difficile de comprendre exactement comment ils produisent leur comportement sophistiqué, même pour les ingénieurs qui les ont conçus ». 

Les LLM ont clairement des capacités qui excèdent celles des humains. Comme l’écrit Summerfield, « chacun des LLM en sait (knows) beaucoup plus que chacun des 8 milliards d’humains, sans jamais avoir jeté le moindre coup d’œil sur le monde naturel dans lequel nous vivons ». C’est qu’ils accèdent au sens (meaning) en exploitant uniquement des données linguistiques, sans passer par le monde sensible. D’où sa conclusion que l’IA a un ou plutôt plusieurs esprits pensants (minds) bien à lui, « tout à fait différents de tout ce que nous avons pu jusqu’ici rencontrer ». Des Aliens, en quelque sorte. 

Mais attention, fait valoir Melanie Mitchell : l’IA « n’a pas le sens de son identité personnelle, pas de motivations, pas de mémoire de ses propres expériences (à supposer qu’on puisse dire qu’elle a des expériences), pas de sensations ni d’états émotionnels, pas d’impératifs de survie ». La question fondamentale est dès lors de savoir comment gérer l’émergence de ces nouveaux « esprits » et leurs progrès à venir.