Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

Octobre 2000
Jean-Paul Baquiast

Le paradigme de l'automate ou le dialogue d'Alain et Bernard

Chapitre 1. Section 1
Parallèlement à la lecture de ce feuilleton, il est conseillé au lecteur de se reporter
à nos  éléments de définitions , dont nous vous présentons le premier, consacré  au terme d'automate
NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.

Note à l'attention des amateurs de réalité virtuelle:
il serait très possible de faire d'Alain et Bernard deux "avatars" échangeant les propos qui suivent dans une "agora" en 3 dimensions, où des dossiers informatifs pourraient être ouverts à la demande par les spectateurs-participants. Ceux-ci pourraient également interagir en ligne lorsqu'ils ne seraient pas d'accord avec nos deux héros, ou souhaiteraient compléter leurs propos. Mais  nos faibles moyens techniques ne nous permettent pas d'adopter encore une telle présentation.

Résumé du Chapitre 1

Alain et Bernard réfléchissent à la méthode permettant de mieux comprendre la logique d'évolution du monde des technologies de l'information, y compris sous ses formes les plus récentes, encore peu connues, relevant de la robotique et de la vie ou la pensée artificielle. Ils découvriront vite qu'ils ne peuvent progresser dans cette compréhension sans rappeler l'état des connaissances concernant les innombrables automatismes à l'oeuvre dans le monde vivant, y compris dans les sociétés humaines. Ceci les renverra inévitablement vers un vieux débat philosophique: l'esprit humain (et ses créations matérielles les plus récentes comme Internet et les automates dits intelligents) résultent-ils d'une intervention de type divin, orientée vers un but? Sont-ils au contraire les produits d'une évolution de type algorithmique, dirigée par la logique de la compétition darwinienne (réplication, mutation, sélection), dont ils représentent une branche parmi les autres. Pour y voir un peu plus clair, ils retiennent la démarche suivante, qui est d'ailleurs devenue progressivement celle de tous les chercheurs dans les domaine de la vie artificielle :

• présenter les mécanismes actuellement utilisés ou envisagés par les chercheurs pour donner de l'intelligence et de la vie artificielles aux robots et autres automates développés dans l'industrie et les laboratoires,
• rappeler l'état des connaissances ou des discussions concernant des mécanismes automatiques apparemment comparables à l'oeuvre dans la nature, au triple niveau des systèmes vivants en général, du cerveau des animaux supérieurs, des organisations sociales humaines,
• évoquer les convergences possibles entre le naturel et l'artificiel, susceptibles d'améliorer les performances respectives des deux types d'automatismes,
• et finalement, essayer de préciser les conclusions susceptibles d'être retenues concernant les modalités que prend aujourd'hui la compétition darwinienne à la surface de la terre, lorsque cette compétition oppose dorénavant non seulement les gènes et les mêmes (les idées) mais les futurs cybiontes susceptibles d'associer gènes et mêmes aux énormes ressources de la vie et de la computation artificielle.

Pour commencer, Alain et Bernard se remettent en mémoire ce qu'ils savent déjà sur la technologie et les applications des automates technologiques. Ils évoquent d'abord l'état de l'art actuel. L'automate moderne dispose de nombreuses fonctions  qui le rapprochent d'un organisme vivant. Mais les perspectives dont parlent les publications spécialisées sont beaucoup plus intéressantes. La frontière entre machine et organisme vivant, voire entre machine et homme, semble dans certains cas devenir incertaine. Le couplage entre l'homme et l'automate est dès aujourd'hui un fait acquis. Il deviendra systématique dans les prochaines années, conjuguant le meilleur de l'humain et de l'artificiel. Par ailleurs, les perspectives de réalisations d'automates artificiels hyper-intelligents (artelects), font l'objet d'un nombre croissant d'annonces.
Deux méthodes seront employées parallèlement pour réaliser de tels automates, l'approche descendante ou simulation (le chercheur reproduit sous forme artificielle les mécanismes qu'il voit dans la nature) et l'approche ascendante ou évolutive (le chercheur laisse l'automate s'organiser, grâce à la complexité et la plasticité de ses composants, de manière à trouver lui même les solutions aux problèmes qu'il rencontre). L'une et l'autre se heurtent à des difficultés: dans le premier cas l'impossibilité de percevoir ce qu'il faudrait reproduire (problème de la déconstruction ou reverse-engineering), dans le second cas la difficulté à mettre en place pratiquement les mécanismes de sélection permettant aux meilleures solutions d'émerger.

Introduction au dialogue.

Alain

Bernard

Oui, mais à cœur vaillant rien d'impossible. Avant de commencer, il ne serait pas inutile de nous rappeler à nous-mêmes ce que nous voulons faire, afin d'éviter les digressions inutiles, et pour mettre un peu d'ordre dans une matière complexe.

Alain

A toi de nous le dire, puisque tu as eu l'initiative de ces dialogues. Je peux seulement indiquer en introduction que nous avons depuis longtemps constaté l'importance grandissante que prennent les travaux sur les automates (intelligence artificielle, robotique, vie artificielle). Nous sommes nombreux à regretter que ces travaux n'aient pas, du moins en France, plus d'importance encore. Nous regrettons également que le grand public ne perçoive pas suffisamment comment ces mêmes travaux se rapprochent de ceux portant sur ce que l'on pourrait appeler les automatismes naturels, à propos de thèmes aussi divers que par exemple les mécanismes de la reproduction (génétique), les neurosciences et plus particulièrement la conscience (devenue un véritable sujet d'étude à part entière depuis quelques années) ou, dans d'autres domaines, le gouvernement des sociétés (sociologie politique). Or pourtant dans tous ces cas, on trouve des automatismes à l'oeuvre, qu'il serait indispensable de rapprocher des automates artificiels. Ceux-ci sont bien plus simples, mais ils partagent cependant de nombreux traits avec les automatismes naturels. Cela devrait favoriser les échanges d'idées, dans les deux sens.  

Bernard

Il faut faire remarquer à ceux qui nous écoutent que nous nous plaçons tous les deux dans une perspective philosophique résolument matérialiste. Nous estimons que la vie, l'homme, l'esprit humain et finalement les machines ou artefacts qu'il produit, s'inscrivent dans les développements résultant de la compétition darwinienne, en application de processus algorithmiques simples et répétifs. En aucun cas, nous ne ferons appel à ce que Dennet * appelle le "crochet céleste", c'est-à-dire l'explication spiritualiste qui permet d'éviter de chercher une explication matérielle aux phénomènes dont la complexité nous effraie.

Il est évident que si l'on refuse le dualisme corps-esprit ou le dualisme matière-esprit, il faut absolument étudier les convergences entre ces différentes branches de l'évolution darwinienne que sont les espèces vivantes, les cerveaux humains, les idées qu'ils vehiculent et les machines qu'ils créent. Beaucoup d'automaticiens, c'est-à-dire de gens venus du monde de l'électronique et de l'informatique, pensent qu'ils devraient collaborer plus souvent avec leurs collègues travaillant sur les automatismes naturels biologiques et sociologiques. Ceci se fait déjà, bien sûr, notamment dans le domaine dit de la bionique, pour la simulation des organes sensori-moteurs, et surtout en ce qui concerne la vie artificielle. Il est par ailleurs  évident que, depuis plus de vingt-cinq ans, les informaticiens et automaticiens ont développé des architectures ou processus se rapprochant de ceux de la nature. Citons les réseaux neuronaux ou neuromimétiques, puis plus récemment les algorithmes génétiques. Par ailleurs, les processus de sélection darwinienne, dont nous allons abondamment parler, sont devenus une référence quasi obligée. Mais de nombreux autres champs commencent seulement à faire l'objet d'études comparatives, sauf dans des articles de journaux cherchant le sensationnel. Tu as cité à juste titre le cerveau, et le produit le plus extraordinaire de son activité, la conscience. Autant les gens de l'automatisme et de l'intelligence artificielle (IA) sont intéressés par ce que font leurs collègues généticiens, physiologistes, neurologistes, chercheurs en sciences humaines - souvent pour s'en inspirer - autant les autres semblent craindre d'être diminués par le transfert de connaissances au profit des automaticiens. Cela tient souvent encore à leur ignorance de l'informatique et  à leur mépris - pas toujours avoué - pour ce qu'ils considèrent comme des bricolages d'ingénieurs travaillant dans des garages.

Les travaux en cours ou à développer n'ont rien de désincarné. Ce ne sont pas de simples expériences de pensée ou spéculations philosophique. Il s'agit au contraire d'accélérer les rapprochements entre le vivant et l'artificiel, dans l'espoir de les enrichir réciproquement. Si nous estimons pouvoir adopter un point de vue moral, nous pourrons dire que cela devrait favoriser l'émergence d'une civilisation plus intelligente et plus consciente d'elle-même, une civilisation où les technologies et les hommes, notamment, collaboreraient plus harmonieusement. La complexité du vivant, notamment du cerveau et du langage, pourrait décourager de tels rapprochements. En fait, les travaux en cours montrent qu'il n'en est rien. Il est toujours possible de réaliser des modèles simplifiés, sans doute en partie trompeurs, mais utiles à l'échange interdisciplinaire.

Nous-mêmes, qui ne sommes spécialistes en rien, nous nous bornerons à échanger des considérations très générales, qui seront certainement pleines d'erreurs ou de jugements précipités. Mais, comme nous sommes sur Internet, rien n'empêchera ceux qui ne seraient pas d'accord avec nous d'intervenir pour corriger nos propos, ce dont nous tiendrons compte dans la suite des dialogues. Nous nous sommes convenu d'abord de faire l'état des travaux sur les automates artificiels ou robots, en n'hésitant pas à nous projeter dans un futur que certains jugeront lointain: le cybionte, l'artelect... J'estime pour ma part que ce futur sera d'autant plus proche que l'on y travaillera plus activement, avec des approches interdisciplinaires plus convergentes. Ceci fera l'objet d'un premier chapitre.

Nous examinerons ensuite, dans trois chapitres successifs, les trois principaux domaines d'automatismes naturels où il parait indispensable d'avoir ne fut-ce qu'une petite idée de l'état de l'art et des réflexions des scientifiques et philosophes travaillant dans ces domaines : la biologie, la neurologie, la sociologie. A partir de cela, nous pourrons consacrer un cinquième et dernier chapitre aux conclusions philosophiques et pratiques découlant d'une approche véritablement unifiée des automatismes naturels et des automatismes artificiels, dans la perspective de la poursuite de la compétition darwinienne et des chances de survie améliorée susceptibles de bénéficier à ces systèmes symbiotiques nouveaux.   

L'inconvénient (ou l'avantage) de cette démarche est qu'elle oblige à se mêler de pratiquement toutes les grandes questions que se posent la science et la philosophie contemporaines. Ainsi, le risque est grand de dire plus de bêtises que de choses sensées, avec un risque supplémentaire: faute de connaissances précises, nous lancer dans une espèce de science-fiction qui déconsidérera nos propos aux yeux des gens "sérieux".

Alain

J'assume volontiers le risque. Nous ne visons pas à rédiger un mémoire pour l'Académie des sciences, mais à ouvrir un dialogue. Si nous disons des bêtises, et si certains veulent bien les corriger, tu l'as dit, Internet est là pour cela. Notre débat sera mis en ligne à cette fin.

Bernard

Rappelons donc l'objectif principal de notre travail, pour éviter de nous disperser. Nous reviendrons chaque fois que possible à cet objectif, même si nos propos, par la force des choses, partent parfois un peu dans tous les sens:

• résumer les mécanismes actuellement envisagés par les chercheurs pour donner de l'intelligence aux automates technologiques ou robots, dans l'industrie et les laboratoires. Les technologies en matière d'intelligence artificielle et de vie artificielle évoluent très rapidement, presque d'une année sur l'autre. Cette partie du travail nécessitera donc une mise à jour continue et, surtout, de la part du lecteur, un effort d'information et d'actualisation que nous ne pouvons faire pour lui. Les liens sur Internet que nous fournirons les aideront à se constituer une documentation personnelle,

• présenter les mécanismes comparables spontanément à l'oeuvre dans la nature, au triple niveau des systèmes vivants en général, du cerveau des animaux supérieurs, des organisations sociales humaines. N'étant que des généralistes (sauf peut-être en matière de sciences des organisations), nous ne ferons que survoler ces matières, mais en essayant de nous tenir cependant au courant des développements récents, ou des interprétations qui leurs sont données par les vulgarisateurs scientifiques. Là encore, l'accès direct aux laboratoires et auteurs, permis par Internet, sera indispensable. Répétons une nouvelle fois, pour ceux qui s'inquiètent des questions philosophiques ou religieuses, que nous sommes tous les deux des darwinistes convaincus. Notre bible, s'il en était besoin, est, à peu de choses près, la somme écrite par Daniel Dennett: Darwin est-il dangereux?*,

• évoquer l'intérêt qu'il y aurait à introduire tel ou tel de ces mécanismes naturels dans les systèmes d'automates technologiques, afin d'améliorer leurs aptitudes à la compétition darwinienne sur le mode réplication, erreur, sélection du plus apte. Réciproquement, nous nous interrogerons sur l'intérêt d'introduire des automates technologiques dans les automatismes naturels, afin d'améliorer les aptitudes à l'intelligence ou la robustesse de ces derniers,

• et finalement, essayer de préciser les conclusions susceptibles d'être retenues concernant les modalités que prend aujourd'hui la compétition darwinienne à la surface de la terre, lorsque cette compétition oppose dorénavant:
  • les gènes en général, les hommes, leur cerveau, leurs langages et idées (les "mèmes") fabriqués par certains gènes spécifiques à notre espèce, ou découlant de l'action de ces gènes à travers le champ culturel, d'un côté,
  • les cybiontes (ou synthèses hommes-machines) associant gènes, hommes et "mèmes" aux énormes ressources de la vie et de la computation artificielles.

Alain

Tu parles de "mèmes" comme si tout le monde savait de quoi il s'agit. Peux-tu rafraîchir mon souvenir?

Bernard

Nous y reviendrons. Disons que c'est un terme lancé par Dawkins**, suite à ses travaux sur le gène égoïste. L'idée était dans l'air, mais Richard Dawkins a eu l'immense mérite de la populariser: tout ce que produit le cerveau de l'homme, qu'il échange sous forme de langages et d'idées, se comporte dans le milieu de la communication humaine comme le font les gènes dans celui de la reproduction et de la mutation génotypique. Les mèmes sont donc des entités ayant une certaine consistance organique, qui se répliquent, se modifient, s'apparient, et finalement entrent en compétition pour la survie. Un exemple amusant cité par Dennett est celui des blagues ou histoires drôles, dont la naissance, la vie et la mort mériteraient des études approfondies. Mais tout ce qui se crée dans les réseaux d'échanges entre cerveaux humains peut entrer dans cette catégorie de "mèmes".  

Alain

Commençons donc par le commencement. Veux-tu nous dire ce que te suggère le terme d'automate?

Bernard

Tu as de la chance. J'ai lu pas mal de choses sur les automates et je peux lancer la discussion. Nous sommes là dans le vaste domaine de recherche concernant ce que l'on a d'abord appelé l'intelligence artificielle (IA) et qui relève de plus en plus de ce que l'on appelle dorénavant la vie artificielle. L'IA est ancienne. Sur le papier, elle est apparue avant même les premiers calculateurs. L'idée était d'appliquer des algorithmes plus ou moins simples à la résolution de probèmes: calculs proprement dits, mais aussi traduction automatique, jeu de dames et d'échecs, etc. Je n'entre pas dans les détails. Il y a de très bons essais de vulgarisation sur ce sujet.

La vie artificielle peut se flatter d'une ancienneté plus grande encore, avec les automates purement mécaniques, à base de dispositifs d'horlogerie, du type des automates de Vaucanson. Mais elle a vraiment décollé récemment, lorsque, pour des raisons tenant notamment à la recherche militaire et spatiale, l'on s'est efforcé de reproduire (simuler, imiter)  différentes formes de vie biologique. Ceci va du plus petit (cellules ou mécanismes infra-cellulaires relevant de la molécule, y compris dans ce que l'on appelle désormais les nano-technologies - par exemple les molécules qui donnent leur mouvement aux cils d'un protozoaire, et qui peuvent être utilisées pour propulser des fluides dans un micro-conduit artificiel)  au plus complexe (des organes sensoriels et moteurs entiers, des automates enfin rassemblant le plus grand nombre possible de fonctions caractéristique d'un organisme vivant).

Un automate, dans le vocabulaire d'aujourd'hui, utilisé par le grand public, c'est une machine mécanique à commande informatique, qui peut accomplir des tâches pour lesquelles elle a été programmée à l'avance. L'automate, en principe, peut fonctionner seul, sans intervention humaine, dans une gamme de comportement spécifiés à l'avance. Je pourrais aussi bien parler de robot: par exemple les robots peintres dans les usines automobiles, ou les machines-transferts.

Mais cette définition est de moins en moins vraie. La tendance est à l'allégement des "asservissements" imposés aux automates par leurs concepteurs. Les automates modernes ne peuvent encore véritablement s'affranchir d'une programmation préalable détaillée, mais la tendance est là. La plupart disposent d'une marge de liberté relativement grande. C'est d'abord vrai dans leur comportement. Ils peuvent s'adapter à de l'imprévu, par exemple éviter des obstacles placés sur leur chemin. Vus de l'extérieur, ils ressemblent à des animaux un peu patauds, mais dotés d'une relative souplesse d'ajustement au monde extérieur. Par exemple à des tortues… Quand ces automates s'efforcent de simuler des fonctions animales, ils sont souvent désignés sous le terme d'animats…Mais bien sûr, ce ne sont pas encore des animaux, bien qu'ils s'en rapprocheront de plus en plus, par certaines de leurs perforances.

Mais c'est surtout par leur mode de programmation que ces automates innovent. Ils sont de plus en plus sous commande d'algorithmes génétiques, susceptibles de se dupliquer et de se modifier de façon aléatoire, d'être sélectionnés par une contrainte extérieure et finalement, de retenir les programmes les mieux adaptés aux changements de l'environnement.

Le thème de l'automatisme est de plus en plus à l'ordre du jour. Il ne se passe plus de semaines, sans que l'on trouve un article sur les automates, que ce soit dans la presse spécialisée ou dans la grande presse. Il faut dire que ce sont les jouets japonais qui intéressent le plus les gens.

Alain

Donc, pour toi, le mot automate désigne un système fabriqué par l'homme, un artefact. Ce que nous pourrons appeler un automate-machine, sans que ce terme de machine ne nous fasse oublier que l'on y trouve de plus en plus d'électronique et de technologies de pointe. Nous parlerons aussi d'automates technologiques, d'automates artificiels...

Bernard

Non, pas du tout. Le terme générique d'automates s'applique, pour moi et pour tous les darwiniens, à tout ce qui a vu le jour sur la terre, depuis les premières cellules eucaryotes jusqu'à l'homme et ses constructions sociales et morales les plus orgueilleuses. C'est ce que je t'ai proposé d'appeler le paradigme de l'automate. Tout est né du fonctionnement des algorithmes primitifs, appliqués à des produits  finis de plus en plus diversifiés et complexifiés par la compétiton Darwinienne. C'est ce que Dennett appelle l'"idée dangereuse de Darwin", insupportable à la plupart des hommes qui veulent se trouver une autre essence, d'origine divine ou relevant d'un mystère à jamais insondable. Ceci dit, les automates biologiques et humains sont évidemment plus compliqués que les automates artificiels crées aujourd'hui par l'homme. Je dis aujourd'hui, car les automaticiens ne désespèrent pas de voir  prochainement des automates artificiels apparaître et compléter les automates naturels, voire se substituer à eux. D'où la distinction, effectivement encore acceptable aujourd'hui, entre automates naturels et automates machines ou artificiels.

Chapitre 1. §1. La vie artificielle. Qu'est-ce qu'un automate aujourd'hui?

Alain

Les recherches et développements concernant la vie artificielle sont très nombreux aujourd'hui, allant là encore du plus petit au plus grand. Nous en trouverons de nombreux exemples sur Internet. Ce qui nous intéresse plus particulièrement ici, je suppose, ce sont les robots ou automates les plus spectaculaires, de type humanoïde. Il s'agit de mécaniques fort complexes, même lorsque leur volume est réduit. Avec les progrès de la miniaturisation, l'on peut faire tenir beaucoup de fonctions dans un petit volume.

Un robot, ou, pour parler comme toi, un automate-machine, est un système composite (mécanique et électronique) comportant plusieurs parties travaillant en synergie. C'est exact qu'il est possible de comparer grossièrement ses fonctions à ce que l'on trouve dans le règne animal. Comme nous l'avons dit, une technique, la bionique, déjà ancienne, s'efforce d'ailleurs d'imiter (simuler) ce qu'elle voit chez l'animal (par exemple l'écho-location chez la chauve-souris) en vue d'en faire des systèmes automatiques (en l'espèce le sonar).

Bernard

Je t'interromps pour ce qui n'est peut-être pas un simple détail. Beaucoup de scientifiques disent qu'ils ne découvrent l'existence d'un dispositif biologique chez l'animal que lorsqu'ils ont inventé (souvent d'ailleurs au hasard et sans savoir ce qu'ils cherchaient exactement) l'outil technologique. Auparavant, leur œil ne savait pas voir. Axel Kahn*** , dans son dernier ouvrage, en donne un exemple assez remarquable, qu'il faudrait méditer. Pendant des millénaires, les hommes se sont interrogés, et ceci jusqu'au début du 20^e siècle, sur la façon dont la petite semence pouvait produire un organisme adulte complexe. Ils ne l'ont compris que lorsque le concept de programme, développé pour les ordinateurs dans les années 1940, a été exploité par la génétique. Je reviendrai sur ce point, si tu permets, un peu plus tard.

Alain

Un automate moderne s'organise autour d'une plate-forme qui assemble les différentes parties et leur donne l'unité organique nécessaire. Ces parties sont

• des entrées-sorties sensorielles et mécaniques qui permettent de saisir celles des caractéristiques de l'environnement sur lesquelles elles sont ajustées et d'agir sur elles.  L'on a par exemple des cellules photo-électriques pour remplacer la vision, des palpeurs pour détecter les obstacles proches, des roues ou mieux des pattes articulées pour se déplacer, des pinces ou autres "actuateurs" pour manipuler les objets extérieurs, etc. Tout ceci vise à remplir les mêmes fonctions que les organes des sens et les membres de l'animal. Ces entrées-sorties comportent aussi des moyens de communication avec l'extérieur, précieux pour mettre l'automate en relations avec d'autres, ou avec des réservoirs de données: par exemple des émetteurs-récepteurs radio, infra-rouges...,
• des réseaux électroniques et des moteurs, alimentés par des sources d'alimentation internes ou externes, qui assurent le fonctionnement d'ensemble des entrées-sorties et des parties mécaniques, grandes dévoreuses d'énergie. Certains chercheurs commencent à expérimenter des automates capables de puiser eux-mêmes leur énergie dans leur environnement. C'est le cas du robot Chew-chew, qui n'a rien d'un gadget, malgré son nom,
• une unité centrale de traitement de l'information, ou calculateur central, connectée à des mémoires de travail, qui rassemble et synthétise les informations en entrée, coordonne les informations ou les ordres en sortie,
• des programmes informatiques et un ou plusieurs systèmes d'exploitation, mémorisés dans le calculateur central, qui commandent le fonctionnement de ces diverses sous-parties.

Bernard

Je te prends sur le fait de parler de programmes et de calculateurs comme un informaticien de la vieille époque. Nous l'avons rappelé en introduction, ce sont évidemment d'abord les programmes injectés par l'homme qui rendent l'automate apte à se comporter avec une autonomie plus ou moins grande, laquelle permet, dans une certaine mesure, de le comparer à un organisme vivant. Il réagit par des instructions pré-programmées, dont le nombre pourrait être théoriquement illimité, à des situations prévues à l'avance. Mais nous  avons dit que ces calculateurs ne sont pas seulement remplis d'instructions entrées à l'avance par le technicien. Ils peuvent apprendre à s'autoprogrammer. De plus en plus, c'est le robot qui construit lui-même ses propres instructions, selon les méthodes des algorithmes génétiques. Le robot génère des hypothèses de départ, souvent au hasard, et c'est l'expérience qui retient les plus aptes à la survie. Si elles réussissent vraiment, elles se renforcent et s'enrichissent à l'usage. Ces instructions ressemblent, très grossièrement, à ce que sont les instructions transmis par l'hérédité chez l'animal, celles qui découlent de ce que l'on appelle la programmation génétique, sélectionnées dans la cadre de la lutte pour la vie.

Alain

Les programmes informatiques numériques commandant le fonctionnement des automates sont très différents des programmes réflexes, sous commande génétique ou acquis par l'imitation et le conditionnement, dont disposent les animaux, même si leur mode d'élaboration présente quelques similitudes.

Bernard

Oui, mais cependant, il est intéressant de constater qu'ils entraînent les mêmes effets:  
- sur le très court terme, emprisonner l'automate ou l'animal dans des comportements définis à l'avance et peu susceptibles de s'adapter à des contraintes nouvelles, non prévues initialement
- mais au contraire, sur le long terme, au long des générations, pouvoir évoluer sous la contraite des mutations et des sélections.

Les actions réflexes, acquises par l'hérédité ou par l'habitude, et dont les commandes sont transmises par des circuits nerveux dédiés ou spécifiques, constituent l'essentiel de la gamme de comportement des animaux et des hommes. Les actions réflexes se déroulent, en principe, sans interférence de la volonté, et, parfois, sans entraîner de prise de conscience. Elles sont en nombre considérable, et d'une grande diversité. Les automates ont bien moins de possibilités. Néanmoins, l'accroissement continu de la taille de leurs mémoires, et surtout la flexibilité de leurs composants (réseaux neuromimétiques, programmation évolutive) permet de stocker une quantité croissante d'instructions commandant des actions analogues à celles qui dans l'ordre du vivant, relèvent du réflexe. Le fonctionnement d'un automate moderne, est impressionnant à voir. Ses gestes, ses paroles (quand il parle), les opérations logiques auxquels il procède ont de quoi surprendre le spectateur naïf. Pour ce dernier, un tel automate ressemble beaucoup à un être vivant, dont il a les mêmes réactions.

Par ailleurs, l'automate moderne n'est pas commandé par les seuls programmes dont il a été doté à la construction, ou dont il s'est doté lui-même par apprentissage. Il peut aussi recevoir, en cours de fonctionnement, des instructions nouvelles d'un tuteur humain ou pilote extérieur, qui d'ailleurs sera parfois un autre automate. Ces instructions peuvent n'être que temporaires, mais elles peuvent également modifier ou reconfigurer la mémoire en profondeur. Ceci ressemble un peu à l'éducation que reçoit un jeune plongé dans sa société. Si ces instructions arrivent en temps réel dans l'unité centrale de commande de l'automate, transmises par radio notamment, celui-ci réagira aux événements de façon aussi rapide, sinon plus rapide et fiable, que ne le ferait un être vivant. La chose est particulièrement intéressante quand l'automate est chargé d'explorations en environnements distants ou dangereux (par exemple dans l'espace). Nous sommes là, il est vrai, dans le domaine de la symbiose homme-machine, dont nous reparlerons ultérieurement.

Alain

Je crois qu'il faut se méfier, à ce stade de notre réflexion, des comparaisons entre êtres vivants et automates. Les neurologues  et autres biologistes insistent sans arrêt sur le fait que les organismes vivants, même lorsqu'ils ressemblent à des robots, ne sont pas des ordinateurs.

Bernard

Il ne faut pas s'en méfier. Il faut au contraire y insister lourdement. Ceci dit, rien n'est simple. Il est certain que les gens sérieux, ceux qui refusent l'intervention divine, pour s'en tenir à la sélection darwinienne, n'ont pas pour autant mis à jour tous les algorithmes à l'origine de la vie, qu'elle soit primitive ou complexe. Si cela était le cas, nous aurions résolu le problème de l'origine de la vie et celui de la complexifiction génétique. Ceci dit, les darwiniens et néodarwiniens, tels Dennett, par exemple, insistent sur le fait que, depuis les origines de la vie, ce sont des algorithmes simples qui ont permis la réplication puis la reproduction, les mutations, etc.
D'autres comme Pinker **** considèrent que seule la "théorie computationnelle de l'esprit" peut expliquer la genèse des phénomènes nerveux. Mais aucun darwininen et défenseur de l'IA ne te dira que les êtres vivants sont des machines à cartes perforées ou des IBM 1401, bien que l'on constate cependant une convergence rapide entre l'informatique moderne et ce qui se passe dans la nature.

Les premiers automates étaient construits par extrapolation des architectures et fonctionnements connus depuis maintenant un demi-siècle dans les premiers ordinateurs. Ces automates disposaient de mémoires et circuits tout à fait classiques, utilisant en général des nombres binaires et des langages de programmation analogues à ceux de n'importe quel ordinateur. Leurs compteurs, leurs instruments, étaient des systèmes adaptés aux opérations arithmétiques et logiques que pratique l'informatique et l'automatisme depuis bientôt cinquante ans. Mais les automaticiens, suite aux travaux théoriques des créateurs de l'intelligence artificielle, se sont efforcés de trouver d'autres architectures et modes de fonctionnement, s'affranchissant des contraintes des calculateurs actuels, et se rapprochant de ce que nous croyons pouvoir identifier dans la nature, par exemple dans les génomes ou les circuits nerveux. Nous y reviendrons. Même dans les premiers automates joueurs de dames ou d'échecs, l'on s'est efforcé de ne pas programmer bêtement tous les coups de l'univers des possible (ce qui d'ailleurs aurait demandé des millénaires de travail), mais d'introduire des paris et des raccourcis anticipant ce que ferait le joueur humain en compétition.

Ceci étant, ton observation en appelle une autre: l'extraordinaire difficulté de reproduire avec des technologies électroniques et mécaniques ce que le vivant a mis au point au cours de centaines de millions d'années de compétition darwinienne, en utilisant des solutions biologiques toutes différentes.
Dans l'ouvrage très agréable à lire que je citais, Comment fonctionne l'esprit, Steven Pinker **** a donné de nombreux exemples de telles difficultés. Quoi de plus simple pour un homme que mettre un pied devant l'autre et progresser sans tomber? Mais comment simuler cela sur une machine? La meilleure solution serait de "déconstruire" ou analyser à l'envers (reverse engineering) la façon dont procède l'homme, pour essayer de reconstruire sur un automate des mécanismes équivalents. Mais l'analyse à l'envers se heurte à l'opacité tenant à notre ignorance des mécanismes biologiques détaillés en oeuvre, dans les muscles, les nerfs, les centres de l'équilibre, le cerveau lui-même qui coordonne le tout en relation avec les autres sens...Même si certains dispositifs se révèlent à l'observation scientifique (comme le rôle de l'oreille interne et du nerf vestibule dans les informations relatives au mouvement et à l'équilibre), les reproduire avec des technologies comme celles de la centrale à inertie utilisée en navigation aérienne, avec des dimensions et des coûts acceptables, reste une gageure technologique. Les ingénieurs y arrivent quand même, avec des résultats plus ou moins fiables, mais que de temps et d'efforts! 

Alain

Il faut se demander si ces efforts valent la peine?

Bernard

Bien sûr. La société industrielle et scientifique ne peut pas se permettre d'investissements inutiles. Dans une perspective de moyen ou long terme, je répondrais que l'investissement est utile, voire indispensable. Il produira d'abord des machines de plus en plus performantes susceptibles de venir en secours ou complément des hommes quand ceux-ci ne pourront pas intervenir dans tel ou tel milieu. Mais par ailleurs, comme nous l'avons déjà remarqué, cet investissement permettra d'analyser en détail, et donc de mieux maîtriser, réparer ou améliorer les processus naturels. Dans de nombreux cas, l'automate viendra au secours du biologique quand il sera défaillant. C'est déjà le cas en ce qui concerne les prothèses pour non-voyants ou non-entendants. Bientôt l'on disposera de véritables organes artificiels, légers et fiables (coeurs, poumons, etc.)

Il  y a un dernier point que nous n'avons pas mentionné, qui est important, c'est, chez l'automate moderne, la redondance des solutions et l'aptitude à s'auto-réparer. Chacun sait que cette faculté est très présente dans les organismes vivants. C'est même le cas concernant des organes complexes comme le cerveau. Ce n'était pas le cas , par contre, dans les premiers automates-machines, où la panne était fatale. Mais aujourd'hui les constructeurs prévoient un certain nombre de circuits ou processus de secours, en cas d'incident, et il arrive que l'automate choisisse lui-même la meilleur solution de dépannage. C'est ce qui se passe, paraît-il, dans certains satellites...

Alain

Est-ce que ces robots et automates modernes, avec le luxe de dispositifs qu'ils accumulent, peuvent encore être considérés, en gros, comme des ordinateurs. Est-ce qu'ils ne sont pas déjà, au contraire, des systèmes d'une autre génération?

Bernard

Nous allons parler tout à l'heure des générations véritablement nouvelles d'automates, en cours de développement. Mais il s'agit encore souvent de prototypes de laboratoires. Pour le moment, ceux que nous avons évoqués, aussi sophistiqués en apparence soient-ils, n'en restent pas moins pour l'essentiel des ordinateurs ou machines de Turing améliorées, et se heurtent donc aux limites, bien connues, des modèles numériques et du calcul analytique que les programmeurs leur imposent. Les progrès que ces automates manifestent tiennent surtout à leurs composants, dont le rendement ne cesse de s'améliorer d'une année sur l'autre en application de la loi de Moore.

Alain

Jusqu'au jour, annoncé de plus en plus dans les revues techniques, où le silicium rendra l'âme...ce qui imposera d'autres technolgies, encore je crois bien aléatoires, comme l'ordinateur quantique ou à ADN...

Bernard

Ne m'en parles pas...Au point où nous en sommes arrivés, nous pouvons sans doute dire que les machines automates que nous venons de mentionner disposent de ressources potentiellement illimitées au niveau des entrées-sorties sensorielles, bien au delà (compte tenu des progrès prévisibles) des performances de l'homme livré à lui-même. Elles peuvent donc saisir du monde des aspects qui jusqu'à présent nous échappaient (que l'on pense à l'exploration déjà signalée des milieux hostiles, hautes énergies, océan profond, spatial). Elles ont également des possibilités de mise en mémoire et de traitement de l'information sans limites théoriques - y compris en ce qui concerne les délais de réponse.

Elles présentent enfin une caractéristique importante, c'est d'être physiquement mobiles et fonctionnellement décentralisables et polyvalentes. Ceci veut dire que leurs capacités ne sont pas liées nécessairement à des équipements lourds ou à de grandes organisations économiques et politiques, réservant l'accès des fonctions nobles à des "têtes pensantes" ou à des élites. Elles ne sont pas davantage condamnées à travailler toujours dans le même environnement, et pour faire la même chose. En principe (en principe seulement, évidemment) l'automate-machine peut descendre très bas dans les hiérarchies sociales humaines, offrant des possibilités d'information intelligente et de calcul stratégique à des gens qui en étaient jusqu'ici dépourvus. L'on en trouvera de plus en plus dans les voitures, l'équipement ménager, par exemple. De tels automates pourront compléter l'effet décentralisateur de l'Internet, autre forme d'automate dont nous allons parler bientôt.

Alain

L'automate "portable" mettra à disposition de l'individu de base, selon toi, des ressources de calcul et d'action disponibles localement, de même que le micro-ordinateur l'a fait dans le domaine de l'accès aux informations? Et ceci pour faire ce que voudra cet individu de base...y compris des sottises (comme sur Internet d'ailleurs).

Bernard

Oui, mais c'est surtout sur la mise en réseau de ces machines qu'il faudra attirer l'attention. Certes, le progrès des composants électroniques et des logiciels accroîtront sans limite prévisible les performances des machines isolées - sans limites prévisibles puisque l'on prévoit déjà, comme tu le disais tout à l'heure, que les composants à base de silicium ayant atteint leurs limites, d'autres technologies viendront les remplacer. Mais ces machines ne prendront tout leur intérêt qu'interconnectées en réseau. Les réseaux, ce sont des moyens de télécommunications, des ordinateurs ou des automates reliés à ces réseaux, et des hommes derrière l'ensemble.

Les réseaux à haut débit sont très importants, quand on parle d'intelligence. Ils permettent de rapprocher des informations ou des acteurs qui jusque là restaient isolés les uns des autres. Ils génèrent donc des associations nouvelles d'informations et d'idées - ce qui est, semble-t-il, l'activité principale du cortex associatif dans le cerveau humain. Les associations sont essentielles pour construire des modèles de plus en plus riches de la réalité. Elles se concrétisent souvent en hypothèses, que l'on peut ensuite vérifier par la pratique. Nous nous trouvons en face d'une forme essentielle d'invention, l'invention symbolique. Les automates commenceront à devenir véritablement révolutionnaires quand ils seront connectés les uns les autres en réseaux hétérogènes.

Alain

En réseaux hétérogènes? Tu veux dire en réseaux qui rassembleront des automates aux fonctions très différentes? C'est un peu ce qui se produit déjà avec l'explosion actuelle de la société de l'information, la multiplication des cyber-entreprises, les individus qui prennent la parole et se regroupent grâce aux micro-ordinateurs couplés à des téléphones portables, les objets mêmes qui deviennent réactifs, grâce aux puces implantées partout. N'oublions pas non plus, dans le domaine de l'information, les centaines de millions ou de milliards de pages sur le web, les centaines de milliers de messages échangés chaque jour dans les listes de diffusion et autres courriers électroniques, le travail coopératif à l'échelle mondiale, la saisie et la mise à disposition de toutes les connaissances de l'humanité via les langages et supports documentaires modernes, les moteurs de recherche, les agents intelligents, etc. etc..., sans oublier le cyber-sexe, évidemment, gros argument de vente pour Internet.

Bernard

Certes, mais pour le moment, ces réseaux de la société de l'information nous apparaissent constitués davantage d'hommes et de données que d'automates. Cependant des logiciels automates y sont déjà très actifs, sans que l'on sache toujours bien pour qui ils travaillent. Mais avant de nous demander comment vont évoluer les réseaux avec le perfectionnement de leurs composantes automatiques, nous devrons revenir sur les nouvelles générations d'automates-machines, qui essayent de s'affranchir des contraintes du calcul numérique sur ordinateur, pour ressembler davantage à des systèmes biologiques. Nous parlerons aussi des cybiontes. Ce sera l'objet de notre prochain entretien

* Daniel C. Dennett, Darwin est-il dangereux?, 1995 Odile Jacob 2000.
NB.:Nous préparons pour un prochain numéro une fiche de lecture concernant Dennett
** Richard Dawkins. Le gène égoïste.  1976-1989 Odile Jacob  1996 - The extended phenotype, Oxford Univ. Press 1982 - L'horloger aveugle 1986 Laffont 1989 -  Sur Dawkins http://www.world-of-dawkins.com/
*** Axel Kahn, Et l'homme dans tout cela ? NiL éditions 2000
****Steven Pinker Comment fonctionne l'esprit, Odile Jacob 1999

La suite au prochain numéro: Chapitre 1, section 2.  Les automates des nouvelles générations

Pour voir la suite...