Jean-Michel
Truong est un utilisateur émérite du Web.
Il s'est doté d'une page fort bien faite à
son nom où le lecteur trouvera tous les
renseignements biographiques et bibliographiques souhaitables.
Retenons
seulement les éléments suivants de son
cursus brillant : psychologue et philosophe de formation,
ancien enseignant et chercheur à l'université
de Strasbourg, expert en intelligence artificielle,
fondateur de Cognitech, première société
européenne spécialisée en intelligence
artificielle, consultant international en transfert
de technologies avancées, romancier et essayiste.
Jean-Michel
Truong dispose d'une culture scientifique et philosophique
étendue, ainsi que d'une expérience de
manager dans le domaine des applications de l'informatique
et de l'intelligence artificielle qui mérite
le respect. Contrairement à beaucoup de "sociologues"
français, tel l'ineffable Paul Virilio, son pessimisme,
si pessimisme il y a, s'appuie sur une bonne pratique
du domaine. Par plusieurs ouvrages précédents,
se situant à la limite de la science-fiction,
du visionnaire et de l'observation scientifique, il
avait déjà mis en place les éléments
que l'on retrouve dans Totalement inhumaine.
Ajoutons que tout comme l'astrophysicien Trinh Xuan
Thuan, qu'il cite plusieurs fois, Jean-Michel Truong
se trouve au confluent de trois cultures : asiatique,
franco-européenne et anglo-saxonne, dont il sait
tirer le meilleur parti.
Précisons
cependant un point important pour le lecteur : si le
livre est très clair, amusant (malgré
les désastres qu'il nous décrit) et se
lit d'une traite, il suppose cependant un minimum de
culture en matière de systémique évolutionnaire
et d'intelligence artificielle. Un distingué
magistrat de la Cour des Comptes, je suppose, n'y verrait
goutte (à moins d'être abonné à
notre magazine). Mais pour nous, le livre vient à
point nommé afin d'alimenter les discussions
relatives à un thème fondamental : où
se trouvent les limites, si limites il y a, entre l'homme
et la machine ? entre la vie organique et la vie inorganique
? entre l'intelligence organique et l'intelligence inorganique
?
Ajoutons
une autre considération, qui est à porter
à l'actif de l'auteur. Les événements
récents, suite à l'attentat du 11 septembre
et la peur très médiatisée d'un
terrorisme international, viennent à point nommé
pour illustrer plusieurs des thèses du livre,
notamment l'apparition d'entités appelées
par l'auteur "epsilon" (marginaux violents divers) qui
auront la possibilité de déstabiliser
les systèmes en accélérant la survenance
de mutations vers d'autres formes d'équilibre.
Pour
gagner du temps et alléger cette fiche de lecture,
nous ne résumerons pas le livre, dont on trouvera
une bonne synthèse, écrite par Sylvain
Fontaine, sur le site de l'auteur. Disons seulement
que le terreau conceptuel sur lequel, si l'on peut dire,
pousse le livre, est le darwinisme évolutionnaire
dans tous ses avatars, depuis les considérations
sur l'évolution du cosmos et de la vie jusqu'à
celles relatives aux machines sociétales humaines
et à leurs prolongements dans le monde des réalités
virtuelles. Nous ne sommes pas là dans le domaine
du scientifique proprement dit, mais plutôt dans
celui des hypothèses se situant aux limites de
l'imagination scientifique et de la science fiction.
Certains de nos lecteurs nous reprocheront sans doute
de prendre au sérieux et discuter ces conjectures,
mais nous sommes convaincus ici que, sans un peu d'imagination,
aucune science, aucune philosophie ne peut progresser.
Les problèmes posés sont de vrais problèmes,
comme le savent bien ceux qui étudient les formes
les plus avancées de la robotique évolutionnaire,
où le concept de conscience artificielle prend
de plus en plus de consistance, et oblige à s'interroger
sur ce que peut conserver de spécifique la conscience
humaine.
Nous
le verrons en évoquant les principales propositions
du livre :
Le
Successeur
L'hypothèse
L'évolution
a, sur la Terre, donné naissance à la
vie biologique, elle-même donnant naissance à
l'intelligence biologique, dont l'humanité représente
pour nous la forme la plus évidente. Mais l'évolution
peut aboutir, sur d'autres planètes et même
sur la Terre, à des formes de vie non-biologiques
ou matérielles. Nous en avons un exemple avec
les e-gènes ou contenus évoluant dans
les réseaux de télécommunications.
Ceux-ci donnent naissance à des organismes matériels
informationnels, qui s'organisent en une méta-société
de plus en plus indépendante de l'humanité
biologique. C'est ce que J.M. Truong appelle le Successeur.
Les e-gènes constituent des agents réplicateurs
mixtes, qui tiennent à la fois du biologique
(les cerveaux et comportements des hommes où
ils s'implantent) et du matériel (les réseaux
qu'ils empruntent pour circuler d'un homme à
l'autre). Les e-gènes peuvent être considérés
comme correspondant, au plan du virtuel, à ce
que sont les mèmes (les mèmes de Dawkins,
souvent évoqués dans nos chroniques).
A terme, quand le système solaire sera devenu
invivable, seul survivra, s'il le peut, le Successeur,
sous des formes totalement dématérialisées
dont nous n'avons pas encore idée.
Discussion
-
Sur les mèmes
L'auteur
a le mérite (encore rare chez les auteurs français)
de faire un large appel à la mémétique
et au rôle des mèmes comme agents (acteurs)
adaptatifs au sein de l'évolution animale et
humaine. Mais sans doute ne donne-t-il pas encore au
concept toute sa puissance explicative. On peut considérer
que les mèmes, comme d'ailleurs les gènes,
participent de l'ensemble de l'évolution biologique,
dès lors du moins que sont apparus des animaux
capables de représentations. La transmission
de ces représentations par des comportements,
des symboles puis le langage est essentiel à
la formation et à la cohésion sociale
au sein de la plupart des espèces dotées
ne fut-ce que d'un embryon de culture. Ces produits
culturels se transmettent par imprégnation, à
la naissance, et par mimétisme, lors de la vie
adulte. Leur co-évolution avec les gènes
définit le ressort principal de l'évolution
darwinienne, comme l'admettent dorénavant les
sociobiologistes les plus intransigeants (culture/nurture).
Les
mèmes sont constitués à la fois
de contenus cognitifs interindividuels relativement
standardisés et de correspondances neuronales
dans les cerveaux de ceux qui les hébergent,
dont le sens est modifié par l'environnement
spécifique de chaque cerveau. Les mèmes
sont certainement égoïstes, mais les individus
et les groupes qui les hébergent le sont aussi.
Il vaudrait mieux, plutôt qu'isoler les mèmes
en les personnifiant à l'excès, parler
d'agents au sein de systèmes adaptatifs massivement
multi-agents, où les mèmes entrent en
compétition avec un nombre quasi infini d'autres
agents de même nature ou de nature différente.
Il s'établit une interaction complexe entre ces
divers agents évolutionnaires, qu'il ne faut
pas trop simplifier. Si aujourd'hui, il existe par exemple
des mèmes "Bin Laden" ou "kamikaze" dont l'évolution
darwinienne (réplication/mutation) entraîne
d'innombrables conséquences aussi imprévisibles
que catastrophiques, il y a aussi des individus qui
recevront ces mèmes de façon très
différente selon leur histoire ou leur situation.
Bref, la mémétique, si science il y a,
est encore dans l'enfance et, en tous cas, ne peut être
traitée indépendamment d'une systémique
plus vaste.
-
Sur les e-gènes
Il
nous paraît un peu rapide voire naïf d'en
faire une correspondance quasi-obligée des mèmes.
Il est effectivement tentant de penser que les réseaux
(dont Internet offre le prototype) vont permettre à
des contenus divers (programmes informatiques, sous-ensembles
sémantiques, agents dits intelligents) de se
déplacer et d'infecter les ordinateurs et les
hommes connectés au réseau, en acquérant
progressivement autonomie et capacité évolutive
propre. Mais ils n'ont pas encore la possibilité
de s'interconnecter comme les font les mèmes,
parce qu'ils s'ignorent le plus souvent les uns les
autres, faute de compatibilité interne. Autant
le mème (image) du WTC en feu transmis par les
télévisions, la presse, Internet…
touche immédiatement les imaginations, autant
les mots que j'écris actuellement sur mon ordinateur
risquent de ne jamais rencontrer le programme de ma
machine à laver, électronique ou pas.
Jean-Michel Truong me dira, non sans raison, que les
choses vont changer, avec la généralisation
des réseaux locaux, l'arrivée du web sémantique
ou celle d'agents capables d'entrer dans les contenus
sémantiques des programmes, et aller à
l'essentiel indépendamment des non-compatibilités
des formats et supports. Mais nous n'en sommes pas encore
là.
-
Sur l'Intelligence Artificielle
Ceci
dit, l'Intelligence Artificielle (IA) va effectivement
se développer très vite, visant notamment
à produire des robots ou à des intelligences/consciences
autonomes. Les progrès prévisibles des
deux catégories complémentaires d'IA -IA
cognitive et IA connexionniste- qu'évoque à
juste titre l'auteur, vont se combiner pour favoriser
l'émergence, sous des auspices actuellement imprévisibles,
d'un être nouveau qu'avant d'appeler le Successeur,
nous pourrons appeler comme le font certains auteurs
américains le Webmind ou cerveau du Web, infiniment
plus complexe et réactif que nos propres contenus
cognitifs et peut-être même que nos propres
cerveaux. Dans la littérature, on parle aussi
de méta-mutation ou méta-transition, terme
qui évoque quelque peu également ce que
Marceau Felden avait appelé le principe
anthropocentrique quand il s'est agi du développement
subit des aires langagières et associatives réentrantes
lors de l'irruption du langage dans les sociétés
hominiennes. Pourtant, à supposer que ce Webmind,
en mobilisant des ressources informationnelles puis
matérielles de plus en plus étendues,
se structure en super-organisme, n'est-il pas prématuré
de voir en lui un véritable compétiteur
voire un successeur de l'humanité ? Ce type de
peur est généralement associé à
l'apparition de robots hyper-intelligents et hyper-autonomes.
Hugo de Garis s'est principalement fait connaître
du grand public en expliquant que de tels robots se
débarrasseraient très vite d'une humanité
devenue encombrante pour eux ; le film AI de Spielberg
évoque aussi ce thème, mais de façon
plus "soft". Cependant la plupart des roboticiens évolutionnaires
rejettent, à tort ou à raison, cette perspective.
Pourquoi imaginer que les hommes, d'une façon
d'ailleurs classique en matière d'évolution,
n'établiraient pas des symbioses avec de tels
robots ? Nous retrouverions là le thème
du cybionte, conjuguant les capacités biologiques,
affectives et cognitives de l'homme, et celles d'automates
eux-mêmes évolutifs, dotés de senseurs
et effecteurs puissants, ainsi que de cerveaux et consciences
artificielles en relation avec les richesses informationnelles
du web et des divers contenus scientifiques publiés
sur celui-ci.
On
objectera que les automates de demain seront tellement
autonomes qu'ils évolueront hors de portée
intellectuelle et physique des hommes (ce que d'ailleurs
les scientifiques intelligents attendront d'eux afin
de renouveler l'heuristique). Mais pourquoi sous-estimer
l'intérêt pour des entités artificielles
de l'alliance avec des cybiontes . Celles-ci devront
elles-aussi survivre dans un monde qui sera de plus
en plus dangereux pour l'ensemble des structures complexes,
qu'elles soient biologiques ou matérielles.
Sur
l'inégalité
-
On dira en s'inspirant de l'étroitesse d'esprit
propre aux Comités d'éthique de notre
beau pays si peu technologue, que de tels cybiontes
n'auront plus rien d'humain. En fait, ils seront aussi
humains, humains évolués, que l'homo sapiens
d'aujourd'hui est humain au regard de …mettons
l'homo faber. Le problème se situe sur un autre
plan. On peut admettre que ces cybiontes représenteront
les prolégomènes du Successeur dont parle
J.M. Truong. Le reste de l'humanité, cantonnée
dans le rôle obscur de Cheptel (pour reprendre
le terme de l'auteur), constituera une tourbe qui s'éteindra
progressivement, sauf à être maintenue
à l'existence pour servir de repoussoir à
ceux qu'il appelle les Imbus, très proches semble-t-il
de ce que seront nos cybiontes. Nous sommes ainsi là
confrontés à un autre problème,
celui de la fracture sociale : fracture économique,
fracture numérique, fracture intellectuelle.
Le problème est de plus en plus urgent à
résoudre, si on admet - ce qui n'est pas certain
- que du sein des exclus du tiers et du quart monde
naîtront les internationales terroristes mettant
en danger les plus belles constructions techno-scientifiques,
à commencer par les bases mêmes du Successeur.
Mais nous nous éloignons un peu du thème
central du livre. Il s'agit plutôt d'un autre
thème, abordé également par l'auteur,
celui de la coopération /compétition.
Ce dernier reprend sans guère les discuter les
thèses les plus pessimistes. La compétition
darwinienne, y compris sous ses formes les plus violentes,
règne entre les hommes, qu'il s'agisse des groupes
ou des individus. La coopération et l'altruisme
ne sont possibles que lorsque les agents en compétition
ne fixent pas de termes à leurs affrontements
(c'est-à-dire tant qu'ils pensent avoir encore
dans l'avenir besoin des autres). Sinon, le terme venu,
ils rompent le contrat pour profiter de ce qu'ils pensent
être une situation avantageuse. Cette observation,
qui relève il est vrai de la conjecture plus
que de la loi scientifique, semble confirmée
par l'histoire. On retrouve là les idées
fort répandues de l'affrontement structurant
(par exemple celles, récemment réactivées
de Jared Diamond, celles déjà anciennes
de Erich Fromm ou - sous un autre angle, celles de Huntington
sur le Choc des civilisations). Nous y souscririons
assez volontiers, sauf à dire que, dans la perspective
de dangers menaçants l'humanité toute
entière, la coopération entre tous les
hommes (sauf les éléments asociaux tels
que les Epsilon mentionnés ci-dessus) peut momentanément
redonner vie au mythe, ou au mème, de l'humanité
unie pour sa survie.
Sur
le très long terme
-
Quant à se demander ce qu'il adviendra de ces
populations et réseaux de cybiontes et d'automates
lorsque les conditions terrestres ne permettront plus
à la vie de subsister, c'est une autre affaire
que nous préférons ne pas aborder. Il
paraît incertain de se projeter dans le très
long terme (fin du système solaire ou fin de
la galaxie). A échéance de simplement
500 ans, qui nous dit que les connaissances scientifiques
ne donneront pas une toute autre image de l'univers
que celle dont nous disposons aujourd'hui ? Galilée,
malgré sa lunette, n'aurait ainsi certainement
pas envisagé sérieusement la possibilité
d'un voyage sur la Lune.
Alia
Le
livre, outre ses passages philosophiques, mérite
d'être lu pour les présentations très
vivantes que fait l'auteur de certains mèmes
qui ont accaparé à leur profit les ressources
budgétaires, intellectuelles et de main-d'œuvre
de l'humanité depuis la 2e guerre mondiale (il
ne remonte pas antérieurement, sauf à
citer quelques philosophes de la fin du 19e siècle
et du début du 20e, tel Nietzsche, dont grâce
à lui nous redécouvrons l'extraordinaire
actualité). L'un de ces mèmes, sans doute
le plus fondateur, après les grandes idéologies
du 20e siècle, et les réactions en défense
provenant des Etats-Unis (le mythe de la Destruction
Mutuelle Assurée), fut et demeure celui de la
mondialisation - en co-évolution avec le développement
des réseaux mondialisés. J.M. Truong n'innove pas vraiment en décrivant longuement les effets
ravageurs de ce même érigé en idéologie
par la pensée unique libérale. On retrouve
les descriptions ayant fait le succès du livre
L'horreur économique de Viviane Forester.
L'auteur, peut-être de façon plus originale, rappelle
aussi la prescience de Hayek, qui en décrivant
la main invisible du marché, proposait en fait
les spécifications de ce que l'on appellerait
aujourd'hui un système multi-agents auto-adaptatif.
Suivant
les commentaires sur la mondialisation viennent ceux
relatifs à la net-économie. Là
encore, le livre n'innove pas vraiment, car les auteurs
ironisant sur les échecs ou prétendues
échecs de celle-ci sont devenus nombreux. Néanmoins,
la description des dot.com et des start-up est excellente.
Le bêtisier de la bulle du Nasdaq trouve là
son livre d'or. Nous aurions aimé en retranscrire
ici quelques paragraphes, mais laissons à César
ce qui est à César.
Jean-Pierre
Baquiast
Automates
Intelligents © 4 Octobre 2001
