La puissance des ordinateurs, la créativité et les performances techniques de l’humanité sont impressionnantes. On ne saurait nier les apports potentiels – pratiques, organisationnels et médicaux – de la robotique, des nanotechnologies et des neurosciences. En même temps, on ne peut pas faire l’impasse sur les dangers qu’une telle évolution représente. Ce qui est en jeu n’est autre que le «principe d’humanité» si bien décrit par l'essayiste Jean-Claude Guillebaud.

Effacement des frontières

L’émergence des nouvelles formes d’intelligence artificielle conduit à un effacement progressif des frontières entre l’être humain et la machine. A trois niveaux:

• L’être humain est assimilé à la machine. Non seulement son corps – ravalé à un assemblage d’organes, de tissus et de fonctions que l’on peut réparer ou remplacer grâce à tout un outillage technique – mais aussi son cerveau. Pour les cognitivistes, celui-ci se ramène au jeu complexe des connexions neuronales. Il est à la fois une réalité matérielle et physique (hardware) relevant des neurosciences et un système de traitement de l’information (software) analysable par la logique informatique.

• La machine est assimilée à l’être humain. La vie étant considérée comme une mécanique et le cerveau comme un ordinateur dont on peut décomposer les processus, il est possible de créer des robots qui simulent la vie, de construire des ordinateurs qui reproduisent les activités cognitives et les comportements humains.

• L’être humain et la machine fusionnent. Prothèses, implants divers, puces électroniques, électrodes peuvent être ajoutés à la mécanique humaine, greffés dans le corps et le cerveau. Le mythe du cyborg n’est pas loin…

Délire de toute-puissance

Pourquoi tout cela? Les auteurs de ces recherches et inventions ne s’en cachent pas. Il s’agit bien de transcender les limites humaines, d’amplifier les performances de notre intelligence, d’améliorer les caractéristiques physiques et mentales de notre espèce, de corriger ses imperfections et pallier les fonctions biologiques défaillantes. Bref, de nous rendre plus puissants, parfaits et efficaces. Certains chercheurs – en résonance avec le mouvement international transhumaniste – n’hésitent pas à prôner les noces de l’humain et de la machine pour conjurer le handicap, la souffrance, la maladie, le vieillissement, voire la mort.

Les révolutions en cours permettent d’accomplir un pas de plus dans ce projet d’autodéification de l’être humain et de réification de la nature

Chantre du prométhéisme et pionnier de la pensée scientifique, le philosophe anglais Francis Bacon (XVIIe s.) appelait à faire «reculer les bornes de l’empire humain en vue de réaliser toutes les choses possibles». Les révolutions en cours permettent d’accomplir un pas de plus dans ce projet d’autodéification de l’être humain et de réification de la nature, inauguré par la modernité occidentale à la fin du XVe siècle.

La technoscience est, plus que jamais, devenue l’instrument de l’orgueil et de la volonté de puissance humains. Sa domination, d’ailleurs, n’est pas seulement d’ordre instrumental. Elle constitue aussi un «modèle de monde», impersonnel et froid, sans transcendance ni finalité. Un mode de relation totalitaire qui prétend «constituer le monde en totalité close dont l’homme serait un “petit dieu”», pour reprendre l’expression du théologien orthodoxe Olivier Clément.

Le règne de la technoscience est donc tout sauf neutre. Arraisonné par la logique marchande et non démocratique, il engendre un nouveau type d’humanité coupée de la nature et de son corps, une mentalité de contrôle et de domination qui ne porte pas seulement sur la biosphère, mais de plus en plus sur l’humanité elle-même.

Perte de contrôle

A force de vouloir maîtriser la nature par la technique et l’artifice, l’être humain risque de finir dominé par eux et de ne plus rien contrôler. Souvenons-nous de Hal, le célèbre ordinateur de 2001, l’Odyssée de l’espace, qui tentait se débarrasser des pilotes de la navette spatiale pour mieux accomplir sa mission. Souvenons-nous aussi du docteur Viktor Frankenstein. On en connaît l’histoire, née sur les bords du Léman en été 1816 sous la plume de Mary Shelley. «Prométhée moderne», prototype de l’apprenti-sorcier, il tente de donner vie à une forme humaine composée de divers cadavres. Il y parvient en captant le feu du ciel par l’électro-biologie. Le rêve cependant vire au cauchemar. Non seulement la créature aux yeux jaunes et délavés se mue en monstre assassin et dévastateur, mais surtout le savant s’enfuit de son laboratoire quand il découvre l’horreur de son invention. Renié et abandonné par son créateur, la « chose » s’enfuit et transforme son innocence en fureur vengeresse.

Une année avant sa mort, le philosophe et historien de la révolution industrielle Theodore Roszak déclarait dans un entretien au Figaro: «Finalement, je crois que l’allégorie qui domine toute ma pensée est celle de Frankenstein. J’ai le sentiment que ce mythe est par excellence celui du monde moderne. Il montre comment l’homme peut créer quelque chose qui peut se retourner contre lui-même et le détruire.»

Le mythe est en effet l’expression par excellence de l’orgueil et de l’irresponsabilité de l’être humain. L’orgueil dans sa forme suprême n’est autre que l’autodéification, ainsi que le montre la première adaptation cinématographique réalisée par James Whale en 1931. Au début, un acteur annonce un «spectacle traumatisant» montrant un «homme de science qui a voulu créer un homme à son image sans s’en référer à Dieu». Quand Frankenstein voit les doigts du cadavre bouger, il s’écrie: « Il est vivant! Maintenant je sais ce que cela fait d’être comme Dieu! » La démesure de la raison humaine, chantée par les Lumières triomphantes, s’est retournée contre elle-même. L’écrivain Alain Morvan, spécialiste de Frankenstein et des romans gothiques, parle de la «perversion métaphysique du savoir».

Le Dr. Frankenstein n’a de fait jamais été aussi vivant qu’aujourd’hui. Intelligence artificielle, robotique, biotechnologies, transplantations d’organes, manipulations génétiques, partout se multiplient les expériences qui transgressent les lois de la nature. Le fantasme de l’homme-Dieu tout puissant s’incarne aujourd’hui dans le transhumanisme qui ne désire rien moins que modifier les caractéristiques humaines et vaincre la mort par des formes d’hybridation intime entre l’espèce humaine et la technologie.

Trop tard ou trop tôt?

Dans un livre prophétique, L’Obsolescence de l’homme (1956), Günther Anders parlait de la « honte prométhéenne ». On y est. A l’heure de l’anthropocène, où l’être humain est devenu une force géologique, on sait les catastrophes que le prométhéisme – appliqué à la domination de la nature – a produites. A la maîtrise de la nature tout court – on peut déjà imprimer sa nourriture en 3D – a succédé la transformation de la nature humaine. Le mystère de l’humain terrien et créé cède la place au post-humain post-terrien fabriqué pièce après pièce. L’ère du transhumain vidé de sa réalité propre et dissout dans la machine est en marche. «A l’idée substantielle de l’être humain qui sous-tend l’humanité, le posthumanisme entend substituer la thèse de la malléabilité, exploitable grâce aux sciences et aux techniques», écrit le philosophe Jean-Michel Besnier.

Etre humain, c’est accepter sa finitude, dire oui à fragilités.

Toutes ces (r)évolutions posent de nombreuses questions éthiques. On ne parviendra pas à y répondre sans une réflexion approfondie sur ce qui constitue la spécificité et l’essence de l’humanité. Véritable rupture anthopologique, le « post-humanisme » ne conduit-il pas inéluctablement à une déshumanisation du monde, au triomphe de l’artifice sur la nature, à une mutilation voire à une perte de ce qui constitue la spécificité de l’humanité? L’entrée dans la singularité – mot par lequel l’informaticien américain Raymond Kurzweil désigne l’avènement de l’hybride post-humain – n’est-elle pas précisément la mort de ce qui fait la singularité de l’espèce humaine? Que devient notre liberté dans tout cela? Il est temps de fixer des limites à notre démesure, de maîtriser notre volonté de puissance.

Est-il déjà «trop tard pour l’homme» – en voie de dénaturation et déshumanisation – et encore «trop tôt pour Dieu», comme l’écrivait la poétesse américaine Emily Dickinson (1830-1886) plus ou moins à la même époque que Mary Shelley. Ce qui est sûr, c’est qu’on ne joue pas impunément avec les limites de la nature. Il n’y a pas de vraie sagesse sans humilité. Et celle-ci, dont la racine étymologique (humus, le sol) est la même que l’humain, nous rappelle que nous sommes fondamentalement terriens et que notre grandeur est de reconnaître nos limites et de respecter celles de notre nature et de la Terre.

Etre humain, c’est accepter sa finitude, dire oui à fragilités. Grandir, c’est faire de ses erreurs et imperfections le chemin même du progrès. La vraie force est dans la faiblesse. Vivre, pour reprendre ce que disait Montaigne de la philosophie, c’est apprendre à mourir en travaillant à donner un sens à la vie. Cela, aucun ordinateur n’est et ne sera en mesure de la faire.