4 Octobre 2001
Notes par Jean-Paul Baquiast

Totalement inhumaine
Jean-Michel Truong

Jean-Michel Truong Totalement inhumaine Les empêcheurs de penser en rond (Septembre 2001)

Jean-Michel Truong dispose d'une culture scientifique et philosophique étendue, ainsi que d'une expérience de manager dans le domaine des applications de l'informatique et de l'intelligence artificielle qui mérite le respect. Contrairement à beaucoup de "sociologues" français, tel l'ineffable Paul Virilio, son pessimisme, si pessimisme il y a, s'appuie sur une bonne pratique du domaine. Par plusieurs ouvrages précédents, se situant à la limite de la science-fiction, du visionnaire et de l'observation scientifique, il avait déjà mis en place les éléments que l'on retrouve dans Totalement inhumaine. Ajoutons que tout comme l'astrophysicien Trinh Xuan Thuan, qu'il cite plusieurs fois, Jean-Michel Truong se trouve au confluent de trois cultures : asiatique, franco-européenne et anglo-saxonne, dont il sait tirer le meilleur parti.

Précisons cependant un point important pour le lecteur : si le livre est très clair, amusant (malgré les désastres qu'il nous décrit) et se lit d'une traite, il suppose cependant un minimum de culture en matière de systémique évolutionnaire et d'intelligence artificielle. Un distingué magistrat de la Cour des Comptes, je suppose, n'y verrait goutte (à moins d'être abonné à notre magazine). Mais pour nous, le livre vient à point nommé afin d'alimenter les discussions relatives à un thème fondamental : où se trouvent les limites, si limites il y a, entre l'homme et la machine ? entre la vie organique et la vie inorganique ? entre l'intelligence organique et l'intelligence inorganique ?

Ajoutons une autre considération, qui est à porter à l'actif de l'auteur. Les événements récents, suite à l'attentat du 11 septembre et la peur très médiatisée d'un terrorisme international, viennent à point nommé pour illustrer plusieurs des thèses du livre, notamment l'apparition d'entités appelées par l'auteur "epsilon" (marginaux violents divers) qui auront la possibilité de déstabiliser les systèmes en accélérant la survenance de mutations vers d'autres formes d'équilibre.

Pour gagner du temps et alléger cette fiche de lecture, nous ne résumerons pas le livre, dont on trouvera une bonne synthèse, écrite par Sylvain Fontaine, sur le site de l'auteur. Disons seulement que le terreau conceptuel sur lequel, si l'on peut dire, pousse le livre, est le darwinisme évolutionnaire dans tous ses avatars, depuis les considérations sur l'évolution du cosmos et de la vie jusqu'à celles relatives aux machines sociétales humaines et à leurs prolongements dans le monde des réalités virtuelles. Nous ne sommes pas là dans le domaine du scientifique proprement dit, mais plutôt dans celui des hypothèses se situant aux limites de l'imagination scientifique et de la science fiction. Certains de nos lecteurs nous reprocheront sans doute de prendre au sérieux et discuter ces conjectures, mais nous sommes convaincus ici que, sans un peu d'imagination, aucune science, aucune philosophie ne peut progresser. Les problèmes posés sont de vrais problèmes, comme le savent bien ceux qui étudient les formes les plus avancées de la robotique évolutionnaire, où le concept de conscience artificielle prend de plus en plus de consistance, et oblige à s'interroger sur ce que peut conserver de spécifique la conscience humaine.

Nous le verrons en évoquant les principales propositions du livre :

Le Successeur

L'hypothèse
L'évolution a, sur la Terre, donné naissance à la vie biologique, elle-même donnant naissance à l'intelligence biologique, dont l'humanité représente pour nous la forme la plus évidente. Mais l'évolution peut aboutir, sur d'autres planètes et même sur la Terre, à des formes de vie non-biologiques ou matérielles. Nous en avons un exemple avec les e-gènes ou contenus évoluant dans les réseaux de télécommunications. Ceux-ci donnent naissance à des organismes matériels informationnels, qui s'organisent en une méta-société de plus en plus indépendante de l'humanité biologique. C'est ce que J.M. Truong appelle le Successeur. Les e-gènes constituent des agents réplicateurs mixtes, qui tiennent à la fois du biologique (les cerveaux et comportements des hommes où ils s'implantent) et du matériel (les réseaux qu'ils empruntent pour circuler d'un homme à l'autre). Les e-gènes peuvent être considérés comme correspondant, au plan du virtuel, à ce que sont les mèmes (les mèmes de Dawkins, souvent évoqués dans nos chroniques). A terme, quand le système solaire sera devenu invivable, seul survivra, s'il le peut, le Successeur, sous des formes totalement dématérialisées dont nous n'avons pas encore idée.

Discussion
- Sur les mèmes
L'auteur a le mérite (encore rare chez les auteurs français) de faire un large appel à la mémétique et au rôle des mèmes comme agents (acteurs) adaptatifs au sein de l'évolution animale et humaine. Mais sans doute ne donne-t-il pas encore au concept toute sa puissance explicative. On peut considérer que les mèmes, comme d'ailleurs les gènes, participent de l'ensemble de l'évolution biologique, dès lors du moins que sont apparus des animaux capables de représentations. La transmission de ces représentations par des comportements, des symboles puis le langage est essentiel à la formation et à la cohésion sociale au sein de la plupart des espèces dotées ne fut-ce que d'un embryon de culture. Ces produits culturels se transmettent par imprégnation, à la naissance, et par mimétisme, lors de la vie adulte. Leur co-évolution avec les gènes définit le ressort principal de l'évolution darwinienne, comme l'admettent dorénavant les sociobiologistes les plus intransigeants (culture/nurture).
Les mèmes sont constitués à la fois de contenus cognitifs interindividuels relativement standardisés et de correspondances neuronales dans les cerveaux de ceux qui les hébergent, dont le sens est modifié par l'environnement spécifique de chaque cerveau. Les mèmes sont certainement égoïstes, mais les individus et les groupes qui les hébergent le sont aussi. Il vaudrait mieux, plutôt qu'isoler les mèmes en les personnifiant à l'excès, parler d'agents au sein de systèmes adaptatifs massivement multi-agents, où les mèmes entrent en compétition avec un nombre quasi infini d'autres agents de même nature ou de nature différente. Il s'établit une interaction complexe entre ces divers agents évolutionnaires, qu'il ne faut pas trop simplifier. Si aujourd'hui, il existe par exemple des mèmes "Bin Laden" ou "kamikaze" dont l'évolution darwinienne (réplication/mutation) entraîne d'innombrables conséquences aussi imprévisibles que catastrophiques, il y a aussi des individus qui recevront ces mèmes de façon très différente selon leur histoire ou leur situation. Bref, la mémétique, si science il y a, est encore dans l'enfance et, en tous cas, ne peut être traitée indépendamment d'une systémique plus vaste.

- Sur les e-gènes
Il nous paraît un peu rapide voire naïf d'en faire une correspondance quasi-obligée des mèmes. Il est effectivement tentant de penser que les réseaux (dont Internet offre le prototype) vont permettre à des contenus divers (programmes informatiques, sous-ensembles sémantiques, agents dits intelligents) de se déplacer et d'infecter les ordinateurs et les hommes connectés au réseau, en acquérant progressivement autonomie et capacité évolutive propre. Mais ils n'ont pas encore la possibilité de s'interconnecter comme les font les mèmes, parce qu'ils s'ignorent le plus souvent les uns les autres, faute de compatibilité interne. Autant le mème (image) du WTC en feu transmis par les télévisions, la presse, Internet… touche immédiatement les imaginations, autant les mots que j'écris actuellement sur mon ordinateur risquent de ne jamais rencontrer le programme de ma machine à laver, électronique ou pas. Jean-Michel Truong me dira, non sans raison, que les choses vont changer, avec la généralisation des réseaux locaux, l'arrivée du web sémantique ou celle d'agents capables d'entrer dans les contenus sémantiques des programmes, et aller à l'essentiel indépendamment des non-compatibilités des formats et supports. Mais nous n'en sommes pas encore là.

- Sur l'Intelligence Artificielle
Ceci dit, l'Intelligence Artificielle (IA) va effectivement se développer très vite, visant notamment à produire des robots ou à des intelligences/consciences autonomes. Les progrès prévisibles des deux catégories complémentaires d'IA -IA cognitive et IA connexionniste- qu'évoque à juste titre l'auteur, vont se combiner pour favoriser l'émergence, sous des auspices actuellement imprévisibles, d'un être nouveau qu'avant d'appeler le Successeur, nous pourrons appeler comme le font certains auteurs américains le Webmind ou cerveau du Web, infiniment plus complexe et réactif que nos propres contenus cognitifs et peut-être même que nos propres cerveaux. Dans la littérature, on parle aussi de méta-mutation ou méta-transition, terme qui évoque quelque peu également ce que Marceau Felden avait appelé le principe anthropocentrique quand il s'est agi du développement subit des aires langagières et associatives réentrantes lors de l'irruption du langage dans les sociétés hominiennes. Pourtant, à supposer que ce Webmind, en mobilisant des ressources informationnelles puis matérielles de plus en plus étendues, se structure en super-organisme, n'est-il pas prématuré de voir en lui un véritable compétiteur voire un successeur de l'humanité ? Ce type de peur est généralement associé à l'apparition de robots hyper-intelligents et hyper-autonomes. Hugo de Garis s'est principalement fait connaître du grand public en expliquant que de tels robots se débarrasseraient très vite d'une humanité devenue encombrante pour eux ; le film AI de Spielberg évoque aussi ce thème, mais de façon plus "soft". Cependant la plupart des roboticiens évolutionnaires rejettent, à tort ou à raison, cette perspective. Pourquoi imaginer que les hommes, d'une façon d'ailleurs classique en matière d'évolution, n'établiraient pas des symbioses avec de tels robots ? Nous retrouverions là le thème du cybionte, conjuguant les capacités biologiques, affectives et cognitives de l'homme, et celles d'automates eux-mêmes évolutifs, dotés de senseurs et effecteurs puissants, ainsi que de cerveaux et consciences artificielles en relation avec les richesses informationnelles du web et des divers contenus scientifiques publiés sur celui-ci.
On objectera que les automates de demain seront tellement autonomes qu'ils évolueront hors de portée intellectuelle et physique des hommes (ce que d'ailleurs les scientifiques intelligents attendront d'eux afin de renouveler l'heuristique). Mais pourquoi sous-estimer l'intérêt pour des entités artificielles de l'alliance avec des cybiontes . Celles-ci devront elles-aussi survivre dans un monde qui sera de plus en plus dangereux pour l'ensemble des structures complexes, qu'elles soient biologiques ou matérielles.

Sur l'inégalité
- On dira en s'inspirant de l'étroitesse d'esprit propre aux Comités d'éthique de notre beau pays si peu technologue, que de tels cybiontes n'auront plus rien d'humain. En fait, ils seront aussi humains, humains évolués, que l'homo sapiens d'aujourd'hui est humain au regard de …mettons l'homo faber. Le problème se situe sur un autre plan. On peut admettre que ces cybiontes représenteront les prolégomènes du Successeur dont parle J.M. Truong. Le reste de l'humanité, cantonnée dans le rôle obscur de Cheptel (pour reprendre le terme de l'auteur), constituera une tourbe qui s'éteindra progressivement, sauf à être maintenue à l'existence pour servir de repoussoir à ceux qu'il appelle les Imbus, très proches semble-t-il de ce que seront nos cybiontes. Nous sommes ainsi là confrontés à un autre problème, celui de la fracture sociale : fracture économique, fracture numérique, fracture intellectuelle. Le problème est de plus en plus urgent à résoudre, si on admet - ce qui n'est pas certain - que du sein des exclus du tiers et du quart monde naîtront les internationales terroristes mettant en danger les plus belles constructions techno-scientifiques, à commencer par les bases mêmes du Successeur. Mais nous nous éloignons un peu du thème central du livre. Il s'agit plutôt d'un autre thème, abordé également par l'auteur, celui de la coopération /compétition. Ce dernier reprend sans guère les discuter les thèses les plus pessimistes. La compétition darwinienne, y compris sous ses formes les plus violentes, règne entre les hommes, qu'il s'agisse des groupes ou des individus. La coopération et l'altruisme ne sont possibles que lorsque les agents en compétition ne fixent pas de termes à leurs affrontements (c'est-à-dire tant qu'ils pensent avoir encore dans l'avenir besoin des autres). Sinon, le terme venu, ils rompent le contrat pour profiter de ce qu'ils pensent être une situation avantageuse. Cette observation, qui relève il est vrai de la conjecture plus que de la loi scientifique, semble confirmée par l'histoire. On retrouve là les idées fort répandues de l'affrontement structurant (par exemple celles, récemment réactivées de Jared Diamond, celles déjà anciennes de Erich Fromm ou - sous un autre angle, celles de Huntington sur le Choc des civilisations). Nous y souscririons assez volontiers, sauf à dire que, dans la perspective de dangers menaçants l'humanité toute entière, la coopération entre tous les hommes (sauf les éléments asociaux tels que les Epsilon mentionnés ci-dessus) peut momentanément redonner vie au mythe, ou au mème, de l'humanité unie pour sa survie.

Sur le  très long terme
- Quant à se demander ce qu'il adviendra de ces populations et réseaux de cybiontes et d'automates lorsque les conditions terrestres ne permettront plus à la vie de subsister, c'est une autre affaire que nous préférons ne pas aborder. Il paraît incertain de se projeter dans le très long terme (fin du système solaire ou fin de la galaxie). A échéance de simplement 500 ans, qui nous dit que les connaissances scientifiques ne donneront pas une toute autre image de l'univers que celle dont nous disposons aujourd'hui ? Galilée, malgré sa lunette, n'aurait ainsi certainement pas envisagé sérieusement la possibilité d'un voyage sur la Lune.

Alia

Le livre, outre ses passages philosophiques, mérite d'être lu pour les présentations très vivantes que fait l'auteur de certains mèmes qui ont accaparé à leur profit les ressources budgétaires, intellectuelles et de main-d'œuvre de l'humanité depuis la 2e guerre mondiale (il ne remonte pas antérieurement, sauf à citer quelques philosophes de la fin du 19e siècle et du début du 20e, tel Nietzsche, dont grâce à lui nous redécouvrons l'extraordinaire actualité). L'un de ces mèmes, sans doute le plus fondateur, après les grandes idéologies du 20e siècle, et les réactions en défense provenant des Etats-Unis (le mythe de la Destruction Mutuelle Assurée), fut et demeure celui de la mondialisation - en co-évolution avec le développement des réseaux mondialisés. J.M. Truong n'innove pas vraiment en décrivant longuement les effets ravageurs de ce même érigé en idéologie par la pensée unique libérale. On retrouve les descriptions ayant fait le succès du livre L'horreur économique de Viviane Forester. L'auteur, peut-être de façon plus originale, rappelle aussi la prescience de Hayek, qui en décrivant la main invisible du marché, proposait en fait les spécifications de ce que l'on appellerait aujourd'hui un système multi-agents auto-adaptatif.

Suivant les commentaires sur la mondialisation viennent ceux relatifs à la net-économie. Là encore, le livre n'innove pas vraiment, car les auteurs ironisant sur les échecs ou prétendues échecs de celle-ci sont devenus nombreux. Néanmoins, la description des dot.com et des start-up est excellente. Le bêtisier de la bulle du Nasdacq trouve là son livre d'or. Nous aurions aimé en retranscrire ici quelques paragraphes, mais laissons à César ce qui est à César.

Automates Intelligents © 2001