Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

14 Juin 2001
Jean-Paul Baquiast
AUTEUR

Le paradigme de l'automate ou le dialogue d'Alain et Bernard

Chapitre 4, section  4 : Conclusion

Avant de lire ce feuilleton, il est conseillé au lecteur de se reporter à nos éléments de définition
NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.

Episode précédent

Bernard

L'humanité vient avec le robot (plus précisément le robot évolutif) de "redécouvrir" la logique de l'évolution naturelle biologique : reproduction, mutation, sélection, amplification. On la qualifie généralement de logique darwinienne.

Alain

C'est cette logique que tu avais appelée la machine à inventer naturelle.

Bernard

Oui.

Alain

Les hommes n'ont pas attendu l'invention des robots pour mettre ce mécanisme en évidence dans les processus naturels.

Bernard

C'est vrai. Cependant la logique darwinienne de l'évolution n'a été comprise par la science que récemment. Après que Charles Darwin en ait posé les premiers principes, ce fut seulement au milieu du 20e siècle, avec les découvertes de la génétique moléculaire, que le mécanisme s'incarna dans une représentation compréhensible par tous, et que résume le mot à jamais célèbre de Monod : le hasard et la nécessité.

De plus, le Darwinisme s'est heurté et se heurte encore parfois à d'innombrables objections. S'il est à peu près admis en génétique, son application aux autres sciences, par exemple les sciences sociales, est toujours contestée.

En fait, ce n'est que depuis une quinzaine d'années, avec précisément l'apparition de l'intelligence artificielle évolutionnaire, que les choses commencent à changer.

La " redécouverte " du darwinisme a été largement due aux développements actuels des recherches sur la vie et l'intelligence artificielle, qui ont permis de simuler avec des moyens de plus en plus puissants les phénomènes biologiques.

On peut en simplifiant distinguer, sous ce terme général de robot évolutif, une approche d'ensemble, celle des algorithmes génétiques, centrée sur les processus, et une approche spécialisée, centrée sur les organismes, celle des systèmes multi-agents…je dirais pour être plus précis des systèmes massivement multi-agents pouvant évoluer loin de l'équilibre dans des boucles d'auto-évaluation-auto-contrôle.

Alain

Pourquoi distingues-tu les algorithmes génétiques des systèmes multi-agents ?

Bernard

La méthode des algorithmes génétiques nous donne le moyen, très général, de faire évoluer les composants d'un système en vue d'améliorer son adaptation à un problème donné. Il s'agira par exemple, dans la vie courante, d'optimiser un logiciel de gestion de stocks en évitant de faire appel à une programmation a priori qui serait bien trop lourde pour être envisageable..

Alain

Ou de mettre en concordance les horaires des TGV avec ceux des TER. IL paraît que c'est un problème diabolique, dont sont chargés les "horairistes" de la SNCF…

Bernard

Cela fait bien 20 ans que cette méthode, conjuguée avec l'utilisation des réseaux neuronaux ou connexionnistes, s'efforce d'imiter les processus d'adaptation darwinienne du vivant.
Bien que relativement traditionnel, le domaine des algorithmes génétiques ne cesse de s'étendre. C'est grâce à eux, notamment, que les robots peuvent apprendre à s'adapter sans exiger la présence constante des programmeurs. Mais, encore une fois, il ne s'agit que de processus. L'approche par le système final change l'ambition de la vie artificielle. Il s'agira à terme de réaliser des entités artificielles se comportant comme des organismes vivants, y compris sur le plan des intentionnalités, de l'auto-contrôle, voire de la conscience

Alain

Ce sont ces entités que tu qualifies de systèmes multi-agents.

Bernard

On peut aussi les appeler, comme je te disais, des réseaux ou des systèmes massivement multi-agents. De quoi s'agit-il ? Les recherches dans ce domaine se développent rapidement. Les agents, dans ces systèmes, sont des logiciels simples, facilement construits et générés par reproduction automatique. Ils incarnent les fonctionnalités multiples dont on a voulu doter le système. Les agents s'efforcent d'atteindre leurs buts en s'organisant et se regroupant au mieux, via leurs capacités de communication. Ils réalisent par leurs actions et réactions la mise en activité du système entier. Grâce à leur travail en synergie, s'ils sont suffisamment nombreux, ils donnent aux systèmes des caractères adaptatifs et dynamiques leur permettant de représenter des phénomènes complexes comme des sociétés biologiques ou humaines, des écosystèmes de grande taille, des systèmes générateurs de sens et de conscience artificielle.

Alain

Les agents se comportent-ils comme des neurones dans un cerveau biologique ?

Bernard

D'une certaine façon, oui. Mais ils se comportent aussi comme les différents organes d'un organisme vivant. Ils incarnent des modules d'interface, de communication, d'action, de connaissances, etc. Le point essentiel, qu'il faut bien comprendre, est que le comportement d'un système multi-agents massif, du fait des interactions permanentes entre agents, ne peut être calculé de façon déterministe, comme celui d'un système mécanique fut-il complexe. Nous ne sommes plus dans les systèmes fermés, mais dans les systèmes ouverts, dotés de comportements non réguliers, instables, non prévisibles, adaptatifs voire créateurs. Leur structure interne est auto-organisatrice loin de l'équilibre. On retrouve l'autopoïèse du regretté Francisco Varela.

Alain

On comprend bien dans ces conditions qu'un robot doté des caractéristiques d'un système massivement multi-agents puisse offrir des solutions résolument nouvelles, non prévues par ses créateurs, dans des situations exigeant une adaptation forte. Ce sera donc à son tour un puissant agent évolutif dans des situations d'évolution darwinienne artificielle.

Bernard

Tu fais bien d'utiliser ce mot d'évolution artificielle. On pourrait aussi parler d'évolution naturelle assistée et renforcée par des systèmes artificiels, algorithmes et agents évolutionnaires. C'est en cela que l'on peut parler de véritable révolution méthodologique. Dans pratiquement tous les cas, les scientifiques vont disposer désormais d'outils pour comprendre, mais aussi pour compléter voire remplacer, les processus biologiques de l'évolution et les produits de cette évolution, les organismes vivants, y compris les organismes conscients.

Mais le point important, qu'il faut bien voir, est que les scientifiques dont nous parlons auront la possibilité de laisser l'évolution se dérouler selon des voies non prévues à l'avance…

Alain

Tu veux dire qu'ils pourront, s'ils le veulent - laisser la machine à inventer évolutionniste sortir des sentiers battus, leur proposer de véritables monstres, dont certains pourront être des monstres prometteurs, selon l'expression des généticiens ?

Bernard

Tout à fait. Il s'agira de choix à faire. Ou bien les chercheurs spécifieront aussi étroitement que possible les futures espaces de liberté des systèmes évolutionnaires, dont ils ne devront pas attendre de bien grandes surprises, seulement des optimisations de détail. Ou bien ils ouvriront davantage les fourchettes…

Alain

Au risque de se trouver en face de mutants qu'ils ne contrôleront plus ?

Bernard

Je ne pense pas que cette situation chère aux écrivains de science-fiction se présente rapidement. On peut penser plutôt à des mécanismes de co-évolution où les chercheurs et leurs créations évolueront progressivement, dans le cadre de symbioses acceptées, vers des solutions de plus en plus éloignées des équilibres initiaux.

De toutes façons, les systèmes évolutionnaires artificiels disposeront de certains modules d'auto-évaluation et d'auto-contrôle, mais il faut bien voir que ceux-ci risquent de n'intervenir qu'a posteriori, à moins d'être programmés pour tout bloquer à la première mutation un peu dérangeante. Le système de production des hypothèses et inventions constitué par les algorithmes et agents génétiques fonctionnera dans un environnement chaotique, avec une forte, voire totale incertitude sur les données initiales. C'est-à-dire que ces hypothèses et inventions pourront dans certains cas développer leurs conséquences avant que ni les hommes, ni les systèmes artificiels n'aient eu le temps d'en évaluer ou d'en corriger les effets, qu'ils soient favorables ou non à l'adaptation d'ensemble.

Alain

Ces perspectives n'ont rien de rassurant. Mais, en y réfléchissant, c'est déjà ce qui se produit aujourd'hui. L'humanité découvre tous les jours les conséquences néfastes de ses dynamiques évolutives, démographiques ou économiques, par exemple.

Bernard

Oui. Peut-être pourrions nous pronostiquer cependant que l'évolution artificielle se produira encore plus vite, et peut-être encore plus massivement, que l'évolution naturelle. Mais je ne vois pas pourquoi imaginer qu'elle le ferait dans des directions catastrophiques. Elle pourrait au contraire faire émerger de nouveaux équilibres beaucoup plus adaptés aux nouveaux besoins de survie dans un univers de plus en plus perturbé.

De toutes façons, au point où elle en est arrivée, l'humanité (ou plutôt le système global incluant l'environnement biologique, l'humanité et ses robots adaptatifs) ne peut plus reculer. L'humanité va appliquer rapidement les logiques de l'évolution artificielle, grâce aux moyens de plus en plus puissants de l'informatique et aux réseaux, dans tous les domaines de la recherche et de l'innovation techno-scientifique, faisant exploser les rythmes évolutifs naturels. Ceci se produira d'abord évidemment dans le champ de la vie artificielle, de l'intelligence et de la conscience artificielle. Mais le processus d'accélération et de buissonnement artificiel de l'évolution prendra aussi la forme d'interventions dans les grands mécanismes évolutifs darwiniens jusqu'ici non contrôlés, ou même demeurés encore en partie mystérieux. Toutes les sciences du vivant et toutes les sciences sociales se trouveront touchées : génétique et biologie, neuro-psychologie et cognition, sciences humaines et politiques. De plus, comme nous l'avons noté plusieurs fois, on verra se multiplier les symbioses entre artefacts et structures biologiques et sociales.

Alain

N'exagères-tu pas un peu ? L'informatique et les réseaux ne sont pas les seuls facteurs d'évolution. Même si les algorithmes évolutionnaires transforment le mode d'emploi de l'informatique, ils ne vont pas changer toutes les autres logiques évolutives. Par exemple, la génétique, qu'il s'agisse du génome de l'homme ou de ceux des animaux, évoluera à des rythmes beaucoup plus lents, du simple fait que l'identification des gènes et surtout leurs modes d'action resteront sans doute longtemps encore difficiles.

Bernard

Pas du tout. Tu sais très bien que le décryptage du génome par les outils de l'informatique moderne produira des algorithmes numériques auxquels il sera possible d'appliquer, par ordinateur, sur le mode du calcul évolutionniste, un nombre quasiment illimité d'hypothèses évolutives. A certains moments, le généticien pourra décider, en intervenant directement, par génie génétique, sur l'ADN des espèces étudiées, de réaliser telle ou telle des hypothèses sélectionnées par l'évolution algorithmique. Ainsi pourra-t-il mettre en circulation dans la nature des génomes, et donc, pourquoi pas, des espèces, totalement nouvelles. Celles-ci pourront présenter, si les critères de sélection des algorithmes évolutionnaires ont été bien choisis, une fitness améliorée permettant de faire face à tel ou tel problème.

Alain

C'est l'objectif, si je ne me trompe, de l'ambitieux projet intéressant la petite plante Arabidopsis.

Bernard

Oui. Mais à terme, il n'y a pas de raisons de penser que l'on ne puisse réorganiser plus ou moins complètement le génome des animaux supérieurs, y compris celui des hommes.

Alain

C'est la grande crainte de beaucoup de gens aujourd'hui. Ils voudraient proscrire comme un grand crime l'idée de " programmer " l'homme.

Bernard

En fait, plutôt que juger à partir de positions moralistes héritées du passé, mieux vaudrait discuter de ce que l'on veut faire, et ne pas traiter d'emblée les généticiens informaticiens d'apprentis-sorciers. Si l'on devenait capable d'éliminer certains traits nuisibles, et d'en introduire d'autres répondant à des exigences, y compris morales, mieux adaptées aux besoins de notre temps, pourquoi pas ? Ce qu'il faudra éviter, ce sera d'en tirer des règles de sélection sociale éliminant sans demander leur avis des personnes existantes. Tout devrait être affaire de négociation et de transition.

Ceci dit, ces questions ne se posent pas seulement en génétique proprement dite. Ils intéressent aussi, par exemple, les sciences sociales et politiques, et plus généralement tous les contenus cognitifs, qui seront touchés par les futurs raz-de-marée évolutionnistes

Alain

Par exemple ?

Bernard

Je ne sais pas…aucun problème n'étant jamais et définitivement résolu, les exemples possibles ne manquent pas. Je pense par exemple à la recherche des critères définissant l'évolution des systèmes dynamiques multi-agents, comme les phénomènes démographiques économiques ou environnementaux de grande ampleur. La science d'aujourd'hui est largement impuissante à les modéliser, et plus encore à préciser les facteurs permettant d'influencer leur évolution. Les algorithmes manquent. Pourquoi ne pas espérer que, par la méthode darwinienne artificiellement assistée, des solutions plus efficaces ne puissent émerger, proches d'ailleurs peut-être d'autres inventées spontanément dans la nature, dont nous ne soupçonnons pas encore l'existence, et que nous serions en train de détruire par ignorance au lieu de les utiliser à notre profit.

En fait, je ne vois pas de problème, qu'il relève des sciences de l'ingénieur, des sciences humaines, de la mathématique même, qui ne puissent bénéficier de l'explosion heuristique apportée par la généralisation des processus évolutionnaires appliqués aux modes de représentation et de calcul.

Alain

Ceci se produira d'autant plus sûrement que le recours à la recherche de solution par le mode de la sélection darwinienne mettant en jeu des algorithmes ou des agents évolutionnaires deviendra récurrent.

Bernard

Exact. Il est en train de se produire un phénomène comparable, toutes choses égales d'ailleurs, à la contamination d'une population par un nouveau virus, qui profite de tous les facteurs favorables, contacts sexuels, échanges commerciaux, liaisons aériennes, pour se répandre. Mais dans le cas que nous évoquons, il ne s'agit pas d'un virus. Il s'agit d'un mème. Le mème de l'appel aux processus évolutionnaires se répand entre les hommes en profitant, comme nous l'avons vu, du milieu favorable qu'offrent les machines computationnelles en réseau. Ce mème tirera avantage de l'énorme diffusion et de l'énorme puissance latente de ces machines pour provoquer des mutations dont certaines se révéleront favorables à sa dissémination.

Chaque fois qu'un chercheur se dira, sous l'emprise du mème "tiens, recherchons des solutions nouvelles à tel problème par la méthode des algorithmes et agents évolutionnaires", et chaque fois que des solutions effectivement nouvelles et mieux adaptées en résulteront, le mème sera conforté dans son existence, et pourra convaincre (ou contaminer) d'autres personnes.

Alain

Si je te suis bien, le même de l'évolution darwinienne ne se limitera pas à agir dans le domaine du calcul informatique. La même logique pourra s'appliquer à tout agent, y compris aux humains, sans que l'informatique n'ait rien à y voir. Il deviendra une espèce de réflexe poussant les gens à changer, à muter. …

Bernard

Que veux tu dire ?

Alain

Supposons que je me sente à l'étroit dans mon statut professionnel ou social, et que j'ai envie de tout changer dans ma vie - autrement dit, de muter. Avant d'avoir pris conscience de l'existence des processus darwiniens, j'aurais réfréné mon envie de mutation, par peur de m'engager dans des voies dont je ne maîtriserais peut-être pas les conséquences. Mais maintenant, ayant compris qu'une mutation au hasard pourrait m'offrir une meilleure adaptation, j'accepterais de tenter l'aventure - tout au moins dans certaines limites….

Bernard

Je comprends. Ce que tu dis est si vrai que c'est d'ailleurs ce qui est en train de se passer dans la société d'aujourd'hui. Il y a de plus en plus de gens qui en ont assez d'être enfermés dans des processus peu évolutifs, sinon totalement conservateurs, et qui veulent muter radicalement. Ils ne savent pas exactement ce vers quoi ils tendront, mais l'essentiel pour eux est de changer la donne, en espérant que le futur résultant de ces mutations au hasard sera plus adéquat à leurs besoins profonds que l'actuel présent, dont ils ont assez.

Alain

Tu penses sans doute, par exemple, au manifeste des mutants, que nous avons reçu il y a quelques semaines.

Bernard

Oui, mais aussi à bien d'autres impatiences qui se manifestent, plus ou moins bizarrement d'ailleurs, autour des expériences de corps ou de conscience décalés, comme autour de l'expérimentation de modes de vie différents…

Alain

Remarque que les gens qui veulent faire des expériences, rechercher du nouveau, et qui crée des modes, ne datent pas d'aujourd'hui. Il y en a toujours eu. Certains disent d'ailleurs que nous sommes aujourd'hui dans une espèce d'ambiance pré-68…qui a été catastrophique, au moins momentanément, pour les hommes politiques qui n'avaient pas vu venir le phénomène.

Bernard

Oui, mais ce qui est nouveau, c'est qu'aujourd'hui, les pré-soixante-huitards, pour reprendre ton mot, sont souvent de jeunes (ou moins jeunes) scientifiques, connaissant l'informatique, l'Internet, les algorithmes génétiques, les possibilités et les limites des sciences actuelles. Ils ont donc la possibilité d'innover par mutation au hasard en mettant en œuvre des forces considérables. De même, en cas de réussite, ils auront la possibilité de faire connaître leur succès à des quantités d'autres personnes, grâce à la télévision, à Internet et autres méthodes modernes de communication et de contamination (au bon sens du mot) . Ceci provoquera des mouvements massifs d'agentification, pour parler comme les informaticiens.

Alain

Agentification ?

Bernard

Oui, les " objets " (au sens de la programmation-objet, toujours pour parler comme les informaticiens) que sont les citoyens actuels, actuellement programmés par des algorithmes fermés, au profit du maintien de processus définis depuis longtemps, deviendront des "agents", dotés de plus d'autonomie, capables de collisions et actions-réactions réciproques, qui rendront les systèmes instables, ou plutôt adaptatifs, en recherche permanente d'équilibres loin de l'équilibre. Nous serons entrés dans le monde de la thermo-dynamique évolutive, déjà décrit depuis une vingtaine d'années Prigogine.

Alain

Revenons sur un point qui m'intrigue. Ne peut-on espérer que cette accélération du rythme des mutations ne fasse reculer, comme nous l'avions envisagé précédemment, les limites actuelles de décidabilité des sciences fondamentales (par exemple en matière de cosmologie). Des intelligences artificielles partiellement affranchies des contraintes du cerveau biologique héritées de l'évolution animale pourront peut-être nous aider à comprendre des chose sui nous échappent totalement aujourd'hui. .

Bernard

Certainement - ou peut-être. Mais j'y insiste à nouveau. Evolution artificielle ne voudra pas dire évolution entièrement dirigée par l'homme. On ne découvrira pas nécessairement ce que l'on voudrait découvrir, en partant de tout l'appareil de postulats et de concepts de la science classique. Il faut bien voir que, comme l'évolution naturelle, l'évolution artificielle ne doit pas en principe être dirigée ou contrôlée a priori, sous peine de s'éteindre immédiatement. Autrement dit, elle ne pourra pas s'inspirer d'une finalité décidée par des régulateurs - non plus d'ailleurs que de principes de précautions érigés en barrières devant chaque perspective de création non prévue. Elle ne pourra pas non plus répondre à une injonction du type de "propose moi les équations permettant de décrire la gravité quantique, où ce qu'il y a derrière les trous noirs". Ce sera seulement après coup que le succès récompensera certaines solutions innovantes au détriment d'autres, et marquera une ou plusieurs directions évolutives.

Alain

Personne n'acceptera de tout risquer, y compris l'équilibre de la planète, sur des espèces de coups de dés évolutifs encouragés par des scientifiques que l'on aura vite fait, comme nous venons de le dire, de qualifier de Docteurs Mabuse, autrement dit, d'apprentis-sorciers dangereux.

Bernard

Vraisemblablement, des pondérations pourront s'établir entre orientations différentes. Mais il sera possible aussi d'essayer d'introduire des critères sélectifs au sein des systèmes multi-agents du futur, notamment grâce aux procédures d'auto-évaluation et auto-contrôle évoquées précédemment. Ces critères pourront s'inspirer de "valeurs" considérées à l'époque comme importantes. Mais rien ne garantira l'efficacité de ces valeurs pour assurer une adaptabilité à plus long terme.

Alain

C'est en fait à nouveau l'idéal du mutant que de telles perspectives vont proposer à l'humanité de demain.

Bernard

Exactement à fait. L'idée, comme nous venons de le voir, est d'ailleurs en train de faire son chemin chez les humains les plus branchés, les mieux informés de ce qui est en train de se passer. Nous pouvons dire que, s'opposant au conservatisme de la reproduction à l'identique, le mutant (ou plutôt le mutant artificiel) et ce qu'il découvrira sur le mode hasard-nécessité, deviendra la recette de survie de l'humanité et des formes de vie supérieures, dans un environnement s'étendant progressivement à l'extra-terrestre. Nous sommes, pour reprendre le mot de Michio Kaku, au seuil de la civilisation galactique (sans aucune certitude d'y arriver). Mais refuser de muter donnerait en tous cas l'assurance de n'arriver à rien.

Toutes les formes de pensée ou d'action collective qui n'ont pas encore intégré ce nouveau paradigme, ou qui ne prennent pas en compte ses développements, apparaissent déjà obsolètes : philosophies, sciences, politiques publiques, structures économiques et sociales, morales individuelles

Alain

Tu es dur pour ces sciences. Cela ne va pas nous faire beaucoup d'amis. Je sens que tu ne vas pas tarder à m'affirmer que nous sommes déjà tous deux des représentants de ces nouveaux mutants…

Bernard

Peut-être, après tout. Mais évitons l'auto-satisfaction, qui est mauvaise conseillère. Ce à quoi il faudrait plutôt réfléchir, c'est aux conditions permettant, tout en accélérant le rythme des mutations, de faire en sorte qu'elles bénéficient à tout le monde, y compris aux autres êtres vivants, plutôt qu'à certains détenteurs dictatoriaux du pouvoir techno-scientifique

Alain

Est-ce possible ?

Bernard

On pourra toujours essayer. Il faudra encourager la décentralisation et la démocratisation des recherches scientifiques. En amont, améliorer la formation et la sensibilisation des gens à ces questions, en aval lancer quelques grands programmes nationaux ou européens du type cerveau artificiel ou conscience artificielle… bref des solutions inspirées des exigences d'éthique qui concernent non la limitation de la science, mais sa divulgation et sa démocratisation.

Alain

Ce sera le plus difficile. Les moyens de la science vont là où est l'argent, et l'argent n'est pas démocratiquement distribué…

Bernard

Le plus difficile, et donc le plus urgent.

Automates Intelligents © 2001