Sur le site armees.com, consacré aux questions militaires, on trouve, entre inquiétudes sur les possibilités de guerres atomiques, articles de généraux salivant à la pensée d'essaims de nano-robots combattants et l'inévitable rubrique « total forme », un article  intitulé : « e-Homo : le nouvel homme du futur proche ». Il est signé par Alexandre Nariniani, de l’Institut d’intelligence artificielle de Russie. Je ne suis pas un grand familier des sites militaires, mais je dois avouer que cet article m'a beaucoup impressionné et que je me suis senti obligé d'y réagir.

Que dit-il? En deux mots, quelque chose dont on entend beaucoup parler depuis déjà un certain temps : que la fusion entre l'être humain et les technologies de l'information (TI) va donner naissance à une nouvelle catégorie d'êtres que l'auteur appelle "e-Homo".

À bien des égards, je suis d'accord avec son diagnostic, qui vient confirmer et élargir mes intuitions et mes peurs; la mutation a déjà commencé, les interfaces homme-machine se développent.

L'e-Homo : l'homme supérieur, enfin?

Mais ce ne sont là que balbutiements en comparaison de ce qui, selon A. Nariniani, nous attend. L'e-Homo est vraiment le rêve de la puissance qui aurait enfin accouché de son « idéal » : omniscience, immortalité et... ubiquité potentielle grâce à la dissolution des frontières entre réel et virtuel.

Il est proprement grisant, pour un journaliste ou quiconque travaille dans la recherche, de lire pareilles perspectives de développement des capacités individuelles de traitement de l'information. Mais le prix à payer sera à la hauteur des bénéfices attendus : une transparence quasi totale de l'individu vis-à-vis de la société, en faisant un objet d'influence de plus en plus malléable.

Cette tendance vers toujours davantage de contrôle, consubstantielle au développement du système technicien, est d'ailleurs clairement envisagée par A. Nariani dans son introduction :

« [...]la dépendance croissante de "l’e-Homo" vis-à-vis de son milieu, allant jusqu’au contrôle total. »

En effet, l'implantation de machines dans le corps humain suscite le spectre d'une dépendance potentiellement totale, comme l'indiquent Nariniani et le Dr Patrick Barriot, un colonel spécialisé dans les questions de sécurité, qui traçait en annexe d'un article récapitulatif  sur les nouvelles technologies l'évolution probable de l'interface homme-machine :

1. La machine restitue des aptitudes perdues ou détériorées
2. La machine améliore les capacités sensorielles ou cognitives
3. La pensée dirige la machine
4. Le cerveau communique avec la machine
5. La machine décrypte les pensées
6. La machine dirige le cerveau

L'on se situe actuellement entre les phases 3 et 4, la suite est encore de la science-fiction. Quoique (en)...


Évaluer les risques

Les auteurs de ces deux articles, qui s'accordent pour signaler l'existence de risques fondamentaux dans cette évolution (le contrôle total de la personne humaine par des dispositifs techniques), se bornent à souligner l'existence de ces risques, sans les détailler. Il faut pourtant le faire! En gardant à l'esprit que de telles spéculations flirtent dangereusement avec le ridicule compte tenu de l'échelle des problèmes considérés. Je sollicite donc l'indulgence de mes lecteurs... et essaie tout de même.

Un premier point, culturel, concerne ce que je soulignais précédemment au sujet des privatisations successives permises par les progrès de l'exploration techno-scientifique et l'exploitation marchande de ses découvertes (un dicton du business : « once it's measured, it's done »). Dans la mesure où qui dit relation marchande dit relation de contrôle, on peut se demander ce qu'un sentiment comme la confiance, la paix intérieure qu'elle procure et la qualité de relation qu'elle permet pourraient devenir dans un monde où chacun sera obligé de contrôler l'intégralité de ses relations aux autres, en permanence. 

Un second point : les problèmes sanitaires posés par le voisinage de plus en plus étroit entre nos corps et les machines posent la question de la possibilité brute d'une cohabitation entre eux. La polémique qui enfle actuellement sur les effets des micro-ondes hertziennes (GSM, WI-FI et autres standards de la communication sans fil), de la pollution génétique et hormonale, etc. ne présage rien de bon. Pourrons-nous supporter nos implants, ou, à terme, faudra-t-il tout remplacer pour cause de dégénérescence des tissus intermédiaires?

C'est que, au même titre qu'il est illusoire de parler d'identité strictement limitée à l'individu (nous sommes, corporellement, le fruit de l'interaction entre notre génome et son environnement, et, psychiquement, le fruit de notre insertion dans la culture humaine), il est illusoire de séparer le corps de l'environnement qui le fait vivre.

Or, depuis que nous considérons que la Terre nous appartient au lieu de l'inverse, nos créations techniques ne cessent de dégrader un environnement dont pourtant nous ne pouvons nous passer, pas plus que nous ne le maîtrisons puisque nous sommes incapables de le dupliquer (cf l'échec du projet Biosphère II (photo)). Les nombreuses espèces que l'on continue de découvrir attestent de ce fait : non seulement nous détruisons, mais nous ignorons ce que nous détruisons. Mais, répondront Nariniani et tous les tenants du transhumanisme, quelle importance? La technique nous promet enfin de dépasser nos limites corporelles, pourquoi s'interdire de le faire? Se dépasser, progresser : une vieille lune pourtant! Qui rappelle l'absurde et éternel combat entre l'épée et le bouclier. Aujourd'hui que l'épée est en mesure de détruire la planète pour de bon, pouvons-nous en tirer les conséquences adéquates? Le pouvons-nous vraiment? L'hypothèse la plus probable aujourd'hui est que même ceux qui ne s'y résoudront pas seront poussés à dépendre toujours davantage des machines  puisque nous sommes de toute façon en train de détruire un milieu vivant dont nous ne sommes qu'un maillon et dont nous dépendons absolument sous notre forme actuelle. La vie est mouvement et évolution, la technique est clôture : deux élans de plus en plus contradictoires au fur et à mesure que la technique parfait et étend son emprise.

Une « Migration de la Conscience » ?

Si le milieu change, alors nous devrons changer à sa mesure si nous voulons survivre. Le pourrons-nous? Cette question en amène deux autres si l'on parle d'un changement radical : existe-t-il une « nature humaine » qui soit indépendante du corps humain, et si oui cette entité est-elle transposable à d'autres « supports »?

Ce que l'on considère en général comme indiscutablement humain, c'est la conscience de soi, ou représentation de sa propre existence. Cette conscience de soi et du monde aboutit à ce que le psychanalyste et philosophe M. Benasayag nomme joliment la « fragilité », la perception à la fois de son existence et de la possibilité de sa non-existence. Pourtant, la forme, la nature, la composition, la structure de cette conscience sont l'objet de davantage de questions que de réponses.

À la question de savoir si cette conscience pourrait être indépendante du corps humain, il me semble que la seule possibilité qui puisse valider une telle hypothèse serait celle d'une conscience purement langagière - ou au moins basée sur un langage, sous forme de programmation - adossée à une puissance de calcul brute. Cetrte conscience ne serait pas celle d'un corps humain mais uniquement de l'hémisphère gauche du cerveau, siège supposé du langage et du raisonnement logique, couplée à des appareils de perception et d'émission. Il me semble qu'une composante majeure de la conscience humaine est absente de ce schéma : le temps. Nous sommes, humains, hantés par le spectre de notre finitude; croissance, maturation, dépérissement, les trois âges de la vie, sont notre lot commun; ce temps vivant est à la fois cyclique et linéaire, une sorte de spirale... Alors que le dispositif de perception-communication que représente e-Homo ne fonctionne, comme toute machine, qu'au long d'un temps linéaire. Une « migration » de cette conscience du corps humain vers un dispositif technique suppose donc, en l'état des connaissances actuelles (pour autant que je puisse en juger) une perte, un assèchement.

Une autre approche de la « migration de la conscience » consiste à s'intéresser au désir, qui joue un rôle fondamental dans la psyché humaine. G. Deleuze et F. Guattari, dans leur livre « L'anti-Oedipe », parlent d'une structuration machinique de l'inconscient par l'intermédiaire du concept de « machine désirante »; si ce qui produit le désir est machinique, alors il devrait être possible de reproduire sa structuration. Mais sa teneur, son sens (au sens de sa direction)? Le désir se forme et s'articule en fonction d'une configuration spécifique, intégrant à la fois sa production immanente et l'objet vers lequel il tend et qui lui est apporté par son environnement (aussi bien naturel que culturel). À nouveau surgit cette question de l'environnement : si celui-ci diffère, alors le désir diffère évidemment aussi. Toute « migration », si « migration » il y a, implique donc une modification profonde de l'objet de désir.

La question d'une « nature humaine spécifique » essentielle et constante, que l'on pourrait du même coup transposer à notre convenance, me paraît ainsi nulle, non avenue et relever d'une forme de superstition; parler de l'homme comme d'une entité individuelle se suffisant à elle-même n'a pas de sens (sauf pour la propagande publicitaire mais c'est un autre sujet). Cet e-Homo n'aura de toute évidence ni les mêmes besoins, ni les mêmes désirs, ni la même conscience que nous.

On peut cependant, et je suppose que c'est ce qui est espéré, imaginer des solutions intermédiaires. Peut-être y a-t-il moyen de trouver un modus vivendi entre le règne biologique et le règne technique, le fameux « développement durable » (pour le moment, une blague de très mauvais goût sous forme d'oxymore). Le défi est sans exemple : nous sommes la première société de l'histoire – corrigez-moi si c'est une bêtise – à tenter de s'auto-limiter... Mais, croire que nous pourrions maîtriser un environnement technique dont nous avons un besoin vital revient à faire la même erreur que de croire que nous maîtrisons aujourd'hui notre environnement naturel : nous sommes en interaction avec lui, et il nous maîtrise tout autant que nous le maîtrisons. Pour preuve, les sueurs froides que chacun éprouve en constatant l'ampleur des dégâts que nous lui infligeons et de leurs conséquences... pour nous.

Si « migration de la conscience » il y a, on peut d'ores et déjà affirmer un certain nombre de choses à son sujet :

-     elle sera une modification profonde de ce qui est perçu, assèchement probable de la diversité des sensations contrebalancé par une montée en puissance de celles qui feront l'objet d'une médiation technique.

-     Cette modification sera sans retour en arrière possible du fait de l'altération de l'environnement vivant qui aura été nécessaire à sa fabrication et à son maintien.

-     Cette montée en puissance se fera au prix d'une dépendance considérablement accrue vis-à-vis du système technique ambiant dans lequel nous vivrons.

Assèchement et dépendance collective comme prix de la puissance individuelle : y gagnons-nous? Une soumission aussi totale au système technicien nous rend-elle réellement plus puissants?

Surtout : sortir de l'humanité pour se fondre dans la technique sera-t-il possible sans mourir pour de bon? La question se pose au fur et à mesure que nous développons l'intelligence artificielle. Comme le dit très bien E. W. Dijkstra (en), « La question de savoir si un ordinateur peut penser n'est pas plus intéressante que celle de savoir si un sous-marin peut nager », autrement dit compter sur l'éventuelle empathie d'une intelligence artificielle - ou d'un e-Homo entièrement soumis à des impératifs techniques - pour nous préserver est commettre une lourde erreur. Rien, aujourd'hui, ne permet d'affirmer qu'une conscience de soi compréhensible par les humains et pouvant comprendre ceux-ci pourrait exister au sein d'un environnement purement technique et donc garantir, sous une forme ou l'autre, la perpétuation de la spécificité humaine sous une forme non-biologique... Au contraire. 

« La nouvelle civilisation des "e-Homos" est trop proche pour classer cette question dans la catégorie de la science-fiction. Elle approche, on le sent déjà très bien aujourd’hui. Nous apportons nous-mêmes une contribution à sa formation. »

[...]

« Il n'est pire sourd que celui qui ne veut pas entendre. »

Cela vaut-il la peine de sacrifier la proie pour l'ombre? Peut-on empêcher cela?