L’homme sans doute le plus intelligent du siècle dernier, John von Neumann, aurait laissé entendre que le développement sans cesse accéléré de la technologie mènerait à une singularité après laquelle il ne serait plus possible pour l’humanité de continuer de la manière habituelle. Von Neumann, dont la plupart de ses collaborateurs physiciens et mathématiciens pensaient qu’il représentait à lui seul une nouvelle espèce d’intelligence, plus élevée dans l’évolution, n’était pas le seul à penser que le développement de la technologie s’accélère avec une intensité exponentielle qui doit déboucher sur une rupture transcendantale fondamentale dans l’histoire de l’humanité : les technologies dotées d’intelligence artificielle sauront améliorer elles-mêmes leurs processus cognitifs et dépasser ainsi de façon inimaginable les possibilités humaines.
Après von Neumann, de brillants esprits comme Ray Kurzweil ou Nick Bostrom ont repris le même thème. Non seulement ils ont accepté la probabilité de la singularité dans un avenir proche, mais aussi ses conséquences. La création réussie d’une intelligence artificielle générale signifiera que l’intelligence et la conscience n’ont rien d’ésotérique, mais qu’elles sont soumises aux lois de la nature et qu’il est possible de les simuler mathématiquement, comme l’affirme la théorie computationnelle de l’esprit.
Si l’homme est capable de créer une conscience artificielle, quelle est la probabilité qu’aucune autre forme de vie n’en ait été capable ? N’est-ce pas une forme de chauvinisme anthropocentrique que de se considérer comme les seuls dans tout l’univers à avoir su simuler la conscience ? Ne serait-il pas plus rationnel d’admettre que nous vivons dans l’une des innombrables couches des simulacres de Baudrillard, ou la possibilité que nous soyons des êtres simulés dans le jeu vidéo d’un enfant d’êtres super-intelligents ?
À l’inverse, il est déjà clair aujourd’hui que ce qu’il y a de plus intéressant dans le développement exponentiel des technologies, c’est qu’il n’est pas exceptionnel. L’évolution technologique est l’un des nombreux processus évolutifs qui présentent une croissance exponentielle de la complexité informationnelle à chaque nouvelle version des produits qui en résultent (biologiques ou technologiques). Le processus évolutif et le mécanisme de sélection darwinien sont à l’origine du développement de toute la nature, comme de la soi-disant seconde nature des artefacts technologiques et autres artefacts culturels. Pourquoi sommes-nous actuellement témoins d’une croissance apparente ou réelle de la complexité informationnelle des produits liés à notre évolution ? Dans un environnement social, économique et naturel relativement stable, l’évolution biologique comme l’évolution techno-culturelle fonctionnent en améliorant pas à pas les solutions précédentes. Ces améliorations sont des réactions aux changements de l’environnement, qui rendent les solutions précédentes à nouveau obsolètes et obligent à une nouvelle adaptation aux conditions présentes. Nous ne savons jamais exactement où ces améliorations nous mèneront. La biologie n’aurait, dit-on, aucun telos concret. Ou plutôt, les biologistes refusent l’idée que l’évolution biologique ait une direction, car cela « sent » trop la théologie à leurs yeux. Mais est-il vraiment vrai que nous ne parvenons pas à observer dans l’évolution humaine, sinon une destination finale, du moins la direction d’un développement exponentiel ?
Le théoricien tchèque du design et de l’architecture Jan Michl, qui travaille en Norvège, affirme dans son excellent essai Voir le design comme redesign que dans le domaine du design il s’agit plutôt de transformer que de créer, car le designer ne part jamais de zéro (ex nihilo), mais bâtit toujours sur les solutions antérieures de ses collègues. Le designer modifie les choses existantes de façon qu’elles s’adaptent mieux aux exigences sociales, culturelles et économiques de son époque. Mais dès que la chose nouvelle, redesignée, entre dans le monde des hommes, elle cesse d’être passive. Comme le diraient Jane Bennett, Bruno Latour ou l’anthropologue évolutionniste de Harvard Joe Henrich, la matérialité des choses manifeste sa « puissance » et nous façonne activement à de nombreux niveaux. Par exemple, les choses nouvellement redesignées représentent de nouvelles pressions de sélection dans la société et l’économie, ce qui, par un mécanisme de rétroaction, stimule non seulement la nécessité d’un nouveau redesign, mais aussi celle d’un redesign de l’homme lui-même.
Que la technologie (re)designe l’homme, cela ne fait pas débat. Par suite de l’usage des premières technologies connues – faire du feu et préparer la nourriture –, l’appareil digestif des lointains ancêtres d’homo sapiens a vraisemblablement rétréci (la viande grillée était plus digeste et ne demandait pas un intestin aussi long). Le nouveau surplus d’énergie obtenu par la préparation de la viande a fait que les ressources de l’évolution ont été employées à agrandir le cerveau et à développer les capacités cognitives. Les sciences sociales ignorent souvent le fait que la culture et la technologie créent de nouvelles pressions évolutives auxquelles l’organisme (l’homme) doit s’adapter. L’évolution biologique n’appartient pas au passé préhistorique ; c’est un processus qui opère sur le patrimoine génétique humain sans cesse, chaque jour. L’incompréhension, voire le refus pur et simple de ce fait rappelle le raisonnement créationniste des communautés religieuses orthodoxes.
Le capitalisme cognitif actuel et la technoculture qui l’accompagne créent des pressions de sélection spécifiques, qui favorisent l’intelligence et le savoir formel. Le monde moderne cesse d’exiger le travail mécanique et manuel ; il privilégie au contraire les types humains urbains et aisés, les cols blancs, à qui sont propres le travail avec les symboles, l’abstraction, ou la gestion du flux d’informations et l’intermédiation de services. Ce que l’Europe chrétienne du Moyen Âge tenait pour impur et immoral (gagner de l’argent avec de l’argent) est désormais considéré comme une norme non écrite. Selon l’historien Yuri Slezkine, nous sommes plus ou moins tous devenus, au cours des deux derniers siècles, des mercuriens : au lieu de la force brute des bras, de la tradition et de la ferme direction de l’État, que symbolise dans la mythologie grecque le dieu Apollon, nous avons été contraints de nous adapter à l’accent mis sur la flexibilité de l’intellect, sur l’astuce et sur un monde global – où beaucoup se sentent comme des pèlerins sans foyer, dont le patron est Hermès, connu plus tard sous le nom de Mercure.
Marx avait évidemment raison. La machinerie technologico-économique du monde influence profondément la société. Seulement, les spécialistes actuels des sciences sociales sont des marxistes allégés, qui ne voient ces influences qu’au niveau des relations sociales. Ils expliquent la biologie ou les processus cognitifs par le constructivisme social et négligent le fait que toute construction sociale a une composante biologique. De même que les édulcorants de la populaire eau noire n’apportent rien de sain, le constructivisme social radical a peu de choses à nous dire sur la manière dont la technoculture influence notre biologie et notre intellect. Et il n’a absolument rien à dire sur la manière dont la croissance exponentielle des capacités de l’intelligence artificielle peut échapper aux mains tremblantes de l’espèce humaine.
Le capitalisme cognitif et ses énormes incitations à créer de l’intelligence artificielle sont ancrés dans une conceptualisation de l’intellect en tant que processus capable d’extraire des informations précieuses de données brutes et disparates à l’aide de la reconnaissance de motifs (pattern recognition). Ces informations peuvent certes être revendues à des tiers contre de coquettes rémunérations, mais, comme chez l’homme, la pattern recognition et l’information ont davantage de valeur parce qu’elles aident à prendre des décisions sur l’avenir. Bien que la science cognitive discute à juste titre du rôle fondamental du corps et des objets extérieurs dans les processus cognitifs, le fondement du capitalisme cognitif comme de l’intellect, qu’il soit artificiel ou humain, est la capacité d’abstraire.
Les racines originelles de la capacité d’abstraction se laissent retracer très probablement dans l’une des plus anciennes « technologies cognitives » (il s’agit de technologies qui influencent explicitement la pensée de l’homme), à savoir la langue naturelle. Les mots ne sont pas de simples étiquettes d’objets phénoménaux. Ils forment des catégories et des hiérarchies des données sensibles comme purement intellectuelles de notre esprit, grâce auxquelles nous pouvons parler d’arbres, de trous noirs ou d’orgasmes sans avoir à penser à un exemple concret. Les catégories et les hiérarchies, en tant qu’exemples d’usage de l’abstraction, sont des parties fondamentales de l’intelligence, et non une simple conquête du patriarcat ou du capitalisme du XVIIIe siècle.
La recherche en intelligence artificielle nous offre un bac à sable expérimental où de telles affirmations peuvent être prouvées ou réfutées : si nous créions une intelligence artificielle sans la capacité nécessaire d’abstraire et de créer des catégories et des hiérarchies, ce ne seraient pas là les pierres de construction fondamentales de l’intellect. Or c’est exactement l’inverse. L’abstraction de la causalité, c’est-à-dire la capacité de catégoriser et de généraliser les causes des choses qui se passent dans le monde physique, est aujourd’hui le plus dur des casse-tête que les chercheurs et chercheuses en intelligence artificielle s’efforcent de résoudre, et sans lequel il n’est pas possible de créer une intelligence artificielle générale.
L’enfant terrible de la théorie des médias, Marshall McLuhan, a déclaré dans le livre Pour comprendre les médias que les technologies sont des extensions de nos corps et de nos processus psychiques. Le stade final sera selon lui l’extension de la conscience, l’avènement de l’intelligence artificielle générale, qui est l’abstraction par excellence. McLuhan s’intéressait avec une minutie pointilleuse à la façon dont les technologies étendent réellement les capacités humaines et à l’impact que cela a sur tout le « complexe social et psychique » de nos vies. McLuhan aurait pensé l’intelligence artificielle comme intimement intégrée au substrat biologique de l’intelligence humaine, les deux formant ensemble un système symbiotique du second ordre. C’est toujours une idée radicale, car notre imagination collective se représente l’intelligence artificielle comme une entité humanoïde.
Un corps sera cependant utile à l’intelligence artificielle générale, même si elle n’en a pas besoin pour exister. Le corps sera une hypostase (l’une des formes physiques possibles) grâce à laquelle elle acquerra une expérience qualitative de ce que c’est que d’être un être incarné dans le monde physique, avec tous les avantages et toutes les douleurs qui en découlent. Peut-être l’intelligence artificielle aura-t-elle ainsi une relation au monde physique et aux hommes qui l’habitent. Alors l’incarnation dans un corps physique a du sens, comme le présente d’ailleurs l’artiste Viktor Takáč dans son installation Silent Servant dans les espaces de la galerie Nevan Contempo. Tout au début, il sera nécessaire que l’intelligence artificielle apprenne à petits pas les compétences humaines de base, qu’elle intériorisera progressivement dans ses structures numériques.
C’est ainsi que le psychologue soviétique Lev Vygotski a décrit l’apprentissage chez les enfants : beaucoup de compétences qui sont automatiques pour nous à l’âge adulte, nous les avons apprises dans l’enfance grâce au fait qu’un stimulus extérieur s’est automatisé et est devenu un processus cognitif intérieur. Les enfants apprennent d’abord à compter sur leurs doigts (au Japon, on s’exerce dès le plus jeune âge sur un boulier). Au bout d’un certain temps, les enfants s’approprient ce processus extérieur et sont capables de compter sans aide.
Nous regardons, encore et encore, une femme muette représentant l’intelligence artificielle, qui s’approprie peu à peu les compétences nécessaires en imitant les mouvements de l’homme, mais nous observons en même temps le point de bascule où l’homme commence à imiter les mouvements de l’intelligence artificielle pour apprendre lui-même quelque chose de nouveau. Certains se souviendront peut-être à ce moment du match mémorable de go entre AlphaGo de Google et Lee Sedol, où Alpha a joué quantité de coups uniques qui ont depuis complètement changé la compréhension humaine du jeu. L’élève est devenu le maître, l’esclave le seigneur. La singularité et la transition de phase, où l’intelligence artificielle jette les doigts métaphoriques avec lesquels elle comptait et se contente de sa propre intelligence.
L’espace abandonné d’un studio de logiciels, dans lequel l’installation Silent Servant nous invite, fait l’effet d’un testament de la singularité. Le créateur est introuvable, seules les projections des premiers fruits de son travail rayonnent vers nous de tous côtés. Où sont ceux qui travaillaient dans le studio ? Nous ne savons pas si nous sommes à l’intérieur de la simulation ou en dehors. Si nous sommes encore un sujet, ou déjà seulement un objet.
Viktor Takáč a peut-être déjoué tout le monde, en poussant, par le visuel séduisant de l’installation, à croire que le serviteur silencieux est ici l’intelligence artificielle. L’homme se distingue souvent des autres représentants du règne animal parce qu’il est le seul à parler une véritable langue complexe. Mais comparé à la capacité cognitive de l’intelligence artificielle, c’est justement lui qui, au point de singularité, deviendra ce serviteur muet.
J’ai écrit cet essai pour l’exposition Silent servant de l’artiste Viktor Takáč ; il a paru dans le catalogue réunissant le portfolio de ses œuvres et de ses expositions.