Avec
son livre Totalement inhumaine (Les empêcheurs
de penser en rond, 2001), Jean-Michel Truong pousse
aux extrêmes sa méditation sur l'avenir
de l'intelligence artificielle et de l'humanité
en général. Rappelons qu'il s'agit d'un
expert en IA, puisqu'il a cosigné Systèmes
experts, vers la maîtrise technique avec Alain
Bonnet et Jean-Paul Haton (Interéditions 1986).
Il s'est ensuite intéressé aux clonages
puis la futurologie plus généralement.
Mon
point de vue en quelques mots
Je trouve la synthèse
de Jean-Michel Truong puissante, bien en phase avec
un certain nombre de thèmes qui se développent
actuellement ches différents auteurs, notamment
:
- le marché est
une "machine" et s'en remettre à la "main invisible"
d'Adam Smith c'est ouvrir la porte à "L'horreur
économique" (Viviane Forrester). On retrouve
la même protestation dans "La planète des
esprits" (Philippe Quéau)
- nous allons de manière
pratiquement inéluctable vers une certaine forme
de mutation de l'humanité, dont Teilhard de Chardin
a été un des premiers annonciateurs, avec
une perception positive
- l'évolution
se fait essentiellement au niveau de structures intermédiaires
; les "mêmes" et les "e-gènes" de Jean-Michel
Truong ont des analogues chez des auteurs appartenant
à des disciplines bien différents:
. tout le mouvement
de recherche sur les "agents intelligents", auxquels
il faudrait adjointer la forme intéressante malgré
sa réalité concrète négative,
que constituent les virus (Ludwig,
. la recherche des roboticiens
sur les "comportements" et leur mise en architecture
(Pauli, par exemple)
. les analyses de psycho-sociologues
comme Jean-Claude Kaufmann, avec ses "habitus" et leur
intégration.
En revanche, je crois
qu'on peut encore espérer que la transition vers
l'humanité de demain n'implique pas une catastrophe
aussi dramatique, même si les événements
actuels ont de quoi renforcer les inquiétudes.
Pour cela, il faut inventer
d'autres types d'humains que les imbus, le cheptel et
l'epsilon. En attendant mieux, appelons les "ingénieurs-philosophes",
comme les Grecs mettaient leur espoir dans des "rois-philosophes".
Résumons les
points du livre qui nous paraissent essentiels :
La fin de l'homme
Le livre s'inscrit dans
ligne du post-humanisme, introduit notamment par une
citation d'André Leroi-Gourhan : "On peut se
demander ce qu'il restera de l'homme après que
l'homme aura tout imité". L'humanité,
telle que nous la connaissons, va vers sa fin. Et Truong
ne la regrettera pas "Nous étant débarrassés
d'Al Carbone (l'homme de chair issu de la biologie et
de la chimie organique), il nous faut à présent
renoncer à l'homme comme top model de l'intelligence",
"renoncer à nous prendre pour Dieu".
Homo sapiens n'est que
"l'espèce mère vouée à engendrer
et élever le Successeur". Et cette mère
n'a pas droit à l'avortement. "Le Successeur
a dépassé le point de non retour". Chaque
nouvelle crise (économique en particulier) "accroît
son autonomie et aggrave notre aliénation".
Comment le "Successeur"
parvient à ses fins
Le Successeur est "cette
forme de vie nouvelle susceptible de prendre la suite
de l'homme comme habitacle de la conscience", émergeant
sous nos yeux de ce substrat artificiel... qu'on appelle
le Net.
Le processus a deux
volets :
- Chez les humains,
est apparu un nouveau type de réplicateur, le
"même". Ce sont "des unités élémentaires
d'information susceptibles de se transmettre d'un cerveau
à l'autre". Aussi bien des mots que des musiques
ou des paradigmes.
- Dans les machines,
les agents logiciels deviennent des e-gènes (pour
les distinguer de leurs équivalents organiques).
D'un côté
comme de l'autre, ces entités se développent
selon un processus collectif darwinien, non maîtrisé
centralement. Ce processus n'est plus régi par
le pouvoir politique (libéralisme) ni limité
par les frontières (mondialisation). Il va très
vite (Internet). Mêmes et e-gènes forment
des boucles autocatalytique, s'épaulent mutuellement.
La pompe tourne de plus en plus vite. Et toujours à
l'avantage du Successeur.
Les rôles que
jouent les humains
Les "Imbus" sont "cette
caste d'humains à la fois imprégnés
jusqu'à la moelle des intérêts du
Successeur, fiers jusqu'à l'arrogance des privilèges
que leur confère cette contamination, et ignorants
jusqu'à l'inconscience de leur aliénation".
Elle comporte des héros (Gates, Bezos, Koogle,
Milken, Soros, Reagan, Thatcher) et des aèdes
"qui excellent à chanter les exploits des héros".
Leur projet implique
pour le reste de l'humanité, le Cheptel. Le souci
principal des Imbus est "d'en maintenir le pouvoir énergétique
- sa valeur en tant que combustible du Successeur".
Le projet du Cheptel pour lui-même est simplement
de ne pas souffrir. Mais 95% du cheptel s'avèrera
inapte, et devrait disparaître.
Reste "la fraction échappant
à l'attraction des deux précédents",
epsilon. Son projet de refus du monde et de ses séductions...
ne gênera personne tant qu'ils se contenteront
de hanter les marges". Mais finalement, les deux projets
s'affronteront, "Projets d'annihilation mutuelle, qui
auront en commun une extrême brutalité..
conduiront à reconsidérer des acquis tels
que l'abolition de la peine de mort... ".
Apocalypse et régression
Le transfert n'ira pas
"sans une formidable régression... Il faudra
du temps pour que le Successeur compose l'équivalent
de Hamlet.. s'il en éprouve jamais le désir.
Mais où est-il écrit que la quantité
d'intelligence dans l'univers doive augmenter de manière
continue avec le temps ?". Il faut de toutes façons
s'interroger sur les échénaces vraisemblable
de la prise de pouvoir su "Successeur". Contentons nous
de citer une note de Bertrand Braunschweig (président
de l'Afia) : "Cette vision est fascinante parce qu'elle
développe encore plus loin les prévisions
les plus optimistes sur les capacités de l'IA,
elle est aussi inquiétante de par la place laissée
à l'homme dans ce schéma. On peut contester
l'idée en soi, mais plus concrètement
je voudrais souligner que les technologies actuelles
d'apprentissage numérique et symbolique, d'évolution
artificielle, d'agents intelligents, sont loin de pouvoir
relever un tel défi à moyen terme". Annexe
: Quelques autres textes "post-humanistes" Saint Paul
Vous vous êtes dépouillés du vieil
homme avec ses agissements, et vous avez revêtu
le nouveau, celui qui s'achemine vers la vraie connaissance
en se renouvelant à l'image de son Créateur.
Là, il n'est plus question de Grec ou de Juif,
de circoncision ou d'incirconcision, de Barbare, de
Scythe, d'esclave, d'homme libre ; il n'y a que le Christ,
qui est tout et en tout. Epître aux Colossiens
39. Et ailleurs : Ce n'est plus moi qui vit, c'est le
Christ qui vit en moi. Nietzsche Je vous annonce le
surhomme. L'homme est quelque chose qui doit être
dépassé. Qu'avez- vous fait pour le dépasser
? … Vous avez fait le chemin du ver à l'homme,
et il reste encore beaucoup de ver en vous. Vous avez
été des singes, et maintenant encore l'homme
est plus singe que les singes. ...Le surhomme est le
sens de la Terre. Ayez la volonté de dire "Que
le surhomme soit le sens de la Terre". Je vous en conjure,
mes frères, soyez fidèles à la
Terre et ne croyez pas ceux qui vous font miroiter des
espoirs supra-terrestres… Dieu est mort. Ainsi
parla Zarathoustra. Teilhard de Chardin L'humanité,
prise sous sa forme actuelle... ne peut être scientifiquement
regardée que comme un organisme n'ayant pas encore
dépassé la condition de simple embryon…
un vase domaine de l'ultra-humain se découvre
en avant de nous… domaine où nous ne saurions
ni survivre, ni supervivre, qu'en poussant, et en épousant
au maximum, sur Terre, toutes les forces disponibles
de vision commune et d'unanimisation. 6 janvier 1950
(in le Milieu Divin). Asimov - Vous me dites, Suzanne,
que l'Humanité n'est plus maîtresse de
son avenir ? - Elle ne l'a jamais contrôlé,
en fait. Elle a toujours été à
la merci de forces économiques et sociales qu'elle
ne comprenait pas, de la météorologie
et des hasards de la guerre. Maintenant, les Machines
comprennent ces forces. Et personne ne peut les arrêter,
car les Machines les gèrent comme elles gèrent
la Société. Car elles ont la plus puissante
des armes à leur disposition, le contrôle
absolu de notre économie. - C'est horrible !
- C'est peut-être merveilleux. Pensez que, de
tous temps, les guerres étaient inévitables.
Maintenant seules les machines sont inévitables.
Je l'ai compris dès le début, quand les
pauvres robots ne savaient même pas parler, jusqu'à
la conclusion d'aujourd'hui, où ils empêchent
l'humanité de se détruire. Je n'en verrai
pas plus, ma vie est finie. C'est vous qui verrez la
suite de l'histoire. Fin de "I Robot" (Signet, 1950).
Ce dialogue est censé se passer en 2058, entre
le Co-ordinateur mondial et Susanne Calvin, robopsychologue.
Joseph Wresinski Si le misérable nous interroge,
s'il nous pose des questions et nous oblige à
nous en poser, ce n'est pas parce qu'il nous demande
de ralentir notre marche, mais qu'au contraire il nous
contraint d'aller plus vite et plus loin, de voir infiniment
plus grand et d'être plus ambitieux que nous ne
le sommes. Il nous entraîne dans un véritable
vertige de remise en cause de l'humanité. fondateur
d'ATD Quart Monde. La violence faite aux pauvres. Igloos,
1968. Pierre Berger Où allons-nous ? Personne
ne peut le dire, pour la bonne raison que la main invisible
nous dépasse, que nous coopérons, les
uns par obligation pour survivre, les autres par devoir,
beaucoup aussi par passion ou par plaisir, à
la construction de quelque chose qui est plus grand
que nous. L'âme digitale dépasse radicalement
les limites de notre corps, que ce soit celui de chacun
d'entre nous ou le corps global que forme l'ensemble
des dix milliards d'humains qui peuplent la planète.
L'hypermonde prend forme. Il exigera de nous de plus
en plus d'humilité. Mais il ne nous demandera
pas de nous détruire, bien au contraire. Pendant
longtemps encore, l'âme digitale ne pourra grandir
sans la participation de la chair, et nous rendra au
centuple ce que nous lui donnerons. Peut-être,
un jour, ces corps mêmes seront-ils tellement
dépassés qu'il faudra renoncer à
eux pour nous incarner dans de nouvelles formes matérielles.
Elles ressembleront sans doute aussi peu aux ordinateurs
d'aujourd'hui qu'aux bipèdes qui parvinrent à
les construire. Mais ce temps est loin devant nous.
Plusieurs générations humaines nous en
séparent. Rien ne garantit que cela sera un bien
pour nous. D'autres Auschwitz hélas ! nous attendent
peut-être. Mais rien ne prouve non plus que de
telles autodestructions seront nécessaires pour
passer dans la phase suivante de développement
de l'âme digitale. Le pire n'est jamais sûr.
Et, depuis que le monde est monde, les porteurs d'espérance
ont toujours eu une meilleure âme que les pleurnichards.
N'ayons pas peur ! Osons, au moins, explorer les possibilités
d'un "post-humanisme"... ne serait-ce que pour repérer
ses limites. Car la montée des machines a ses
limites. Au cœur même de la logique, des
mathématiques, des ordinateurs, s'infiltrent
paradoxes, indécidabilités, bogues, virus.
La relativité ne se limite pas à la physique.
L'irrationalité n'est pas une tare humaine, une
conséquence de ses fautes. La logique elle-même
porte son péché originel au cœur
de nos œuvres, de l'avenir commun de l'humanité
et de ses machines. Rien ne nous garantit un progrès
sans catastrophes. Mais la puissante dynamique du passé
nous promet de passionnantes escalades pour le prochain
millénaire. L'informatique libère l'humain.
L'Harmattan 1999
Pierre
Berger
©
ASTI-Hebdo, 2001
