Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

Octobre 2000
AUTEUR

Eléments de définitions :
- Automate
- Paradigme de l'automate

Avertissement: ces définitions n'ont aucun caractère vraiment scientifique, ni même philosophique ou politique.
Elles visent seulement à illustrer les propos parfois sybillins ou trop rapides de nos deux amis Alain et Bernard. Nous les modifierons éventuellement au fil des discussions.

Automate
Paradigme de l'automate

Automate

Automate : qui se meut par lui-même... Dispositif assurant un enchaînement automatique et continu d'opérations arithmétiques et logiques (Larousse).
Artefact: phénomène d'origine artificiel, rencontré ou produit au cours d'une expérience. Par extension, mécanisme artificiel produit par l'homme (Larousse).

La définition du mot automate est difficile. Il faut choisir entre une définition restrictive, qui ne vise que les artefacts ou machines automates fabriquées par l'homme, et une définition beaucoup plus large, englobant pratiquement tous les automatismes naturels, matériels (un processus chimique, géologique, par ex.) ou vivants (un filament d'ADN, un réflexe, par exemple), susceptibles de fonctionner seuls, s'entretenir d'eux-mêmes (par boucles rétroactives), souvent s'enrichir ou se complexifier spontanément (par boucles d'acquisition). Les automatismes naturels résultent de la sélection darwinienne, ils fonctionnent en gros sur le mode algorithmique (voir Dennett*), et présentent une infinité de dispositifs spécifiques à chaque espèce vivante, tous cependant hérités de dispositifs antérieurs plus simples.

Pendant des siècles, les hommes, en prolongement ou en accompagnement de leurs facultés langagières, ont développé des outils et machines: le biface, la roue, l'arme à feu, la machine à vapeur, le moteur à explosion, l'avion, qui se bornaient à prolonger leurs organes sensoriels et leurs membres, mais selon des filières technologiques relevant des arts de l'ingénieur, ne s'efforçant pas, sauf de très loin, à copier la nature. C'est que les mécanismes les plus simples de celle-ci ont longtemps été indéchiffrables pour les technologies de l'époque. Tout s'y passe en général au niveau de la molécule (les nanotechnologies) et selon des architectures logiques que la méthode de la déconstruction (reverse engineering) ne permet pas de faire apparaître, si l'on ne dispose pas déjà d'un modèle de référence réalisé par l'industrie du moment. Même l'ordinateur primitif, que l'on compare généralement à un cerveau, est loin d'en être un. Il utilise des méthodes développées du calcul ancestral sur boulier, sans références (alors impossibles) au fonctionnement des neurones.

Aujourd'hui les choses changent, grâce aux progrès inouïs dont bénéficient les méthodes d'analyse du vivant. Le fonctionnement de l'oeil de la mouche, par exemple, en relation avec son système nerveux, commence à devenir moins mystérieux - sans que tous les questions soient résolues pour autant. Il devient possible de commencer à s'inspirer de certaines des solutions du vivant (sans généralement pouvoir les importer in extenso) dans les domaines les plus simples, ceux des entrées-sorties des automates par exemple. L'on sait pourtant que des processus apparemment rodés depuis des centaines de millions d'années chez les animaux, comme la marche, posent encore de nombreux défis aux ingénieurs (Voir Pinker**). Au niveau des processus complexes, comme le pilotage du développement du phénotype par le génome, ou la maîtrise du comportement par le système nerveux central, les progrès de la connaissance sont très récents, et sont loin d'avoir encore été exploités pour simuler ou reproduire les mécanismes vivants.

Cependant, les connaissances et réflexions évoluent si vite que, depuis quelques années, ce qui paraissait relever de la science-fiction commence à entrer dans le champ du possible. L'on commence à "voir" fonctionner dans la nature d'innombrables systèmes opérant sur le mode automatique, ou mieux encore, sur un mode automatique intelligent (que nous définirons par ailleurs), sinon, quand il s'agit des fonctions les plus évoluées des systèmes nerveux centraux, sur un mode automatique conscient. L'une des idées développées ici, très répandue chez les automaticiens, est que l'expérience acquise par la création et l'utilisation d'automates-machines permet de voir, comprendre et souvent commencer à utiliser des mécanismes automatiques naturels - et réciproquement. C'est le mot réciproquement qui est important, car il exprime un phénomène fondamental, la ré-entrée permanente des acquis des sciences du vivant et de celles des artefacts matériels, électroniques ou autres.  L'objectif à terme pourrait être la réalisation de véritables symbioses entre automatismes mécaniques et automatismes naturels. Ceci n'aurait rien d'étonnant puisque la logique de l'évolution a toujours été la symbiose d'éléments développés jusque là séparément et qui, par accident, trouvaient moyen d'entrer en coopération.

Cette symbiose, qui donne toute leur grandeur et leur puissance onirique aux travaux sur les automates, vise bien, dans le champ des automatismes technologiques, à réaliser des systèmes capables de se mouvoir, s'alimenter en énergie, se reproduire, se complexifier, entrer en compétition darwinienne les uns avec les autres, et surtout, se doter de conscience et d'intelligence, afin finalement d'inventer plus ou moins vite leur propre environnement, le tout, en principe, sans appel à un pilotage par l'homme. Le point de savoir s'ils pourront ou non entrer en compétition darwinienne avec les hommes, comme les auteurs de science-fiction l'imaginent complaisamment, méritera d'autres discussions.

Mais en contrepartie, dans ce que nous pourrons appeler le champ de l'humain, les hommes et les sociétés humaines ne resteront pas ce qu'ils sont actuellement. Ils s'enrichiront parallèlement de la confrontation ou de la coopération avec les automates de plus en plus intelligents, sinon conscients, qui apparaîtront dans les prochaines décennies. 

Un tel objectif s'exprime dans ce que nous appelons le paradigme de l'automate. Même s'il  parait encore irréaliste, compte tenu de l'état des sciences et techniques actuelles, la force de ce paradigme est de mettre en lumière les convergences qui existent ou qui existeront entre humains, animaux et machines, dès que ces dernières deviendront intelligentes. Plutôt qu'expliquer en toutes occasions, comme le fait le premier philosophe venu, que l'homme, l'animal et les automates-machines sont séparés par des barrières infranchissables -explication qui n'avance en rien la réflexion et n'intéresse que les cuistres- le paradigme de l'automate nous fait entrevoir un monde où coexisteront et coopéreront ce que par paradoxe l'on pourrait appeler des anthropomates (automates humains), des biomates (automates vivants non-humains) et des arte-ou artimates (automates machines ou artefacts). Il s'agit en fait, comme nous en discuterons ultérieurement, d'une nouvelle forme de compétion darwinienne. Après celle opposant les gènes, puis les "mèmes", pour parler comme Dawkins (***), nous avons celle opposant - si l'on peut dire - les "mèmes" en réseau et sur automates intelligents.

Insistons sur ce point. Ce n'est pas par provocation intellectuelle que l'on propose d'inclure l'homme et ses idées dans la catégorie des automates. Ce n'est en tous cas pas par volonté de réduire l'homme à la machine, en lui faisant perdre progressivement ses qualités intellectuelles et morales. C'est tout au contraire dans la perspective d'élever la machine au niveau des capacités intellectuelles de l'homme-en-société, dont elle est encore en partie dépourvue aujourd'hui. Mais dans le même temps, et mieux encore, c'est dans la perspective d'élever simultanément la portée et la diffusion de l'intelligence et de la morale humaine, grâce aux possibilités de l'intelligence artificielle et des réseaux. Le moins que l'on puisse dire est que cela parait utile, quand l'on constate le bas niveau de beaucoup des conflits humains. Si le scénario qui s'esquisse actuellement se précise, deux évolutions majeures se dérouleront en parallèle et en interaction :

• les automates machines se doteront progressivement de qualités encore réservées à l'homme (disons, pour éviter tout "humanisme" aussi dangereux que le "déisme", réservées aux capacités computationnelles du cerveau humain en réseau). L'on voit venir le moment où existeront des automates-machines intelligents, conscients et dotés de libre-arbitre, au même titre que les hommes, sinon de façon strictement identique,
• l'observation de l'homme (ou du vivant) éclairée par la référence à l'automate-machine, mettra de plus en plus l'accent sur les algorithmes et automatismes fonctionnant dans les êtres vivants et chez les hommes eux-mêmes, qu'il s'agisse des individus (les réflexes, l'inconscient) ou des groupes plus ou moins structurés. Il s'agit d'automatismes, souvent infiniment subtils et efficaces, mais que nous pouvons qualifier de primaires, dans la mesure où ils ne sont pas encore accessibles et mobilisables par la conscience, au sens du moins que nous donnons à la conscience chez l'individu humain lui-même.
  Ils présentent surtout le caractère d'être hérités d'un très ancien passé, depuis les premières cellules réplicatives jusqu'aux animaux, notamment des primates, ou plus récemment les hommes primitifs, tels les chasseurs-cueilleurs. Si ces automatismes ont été conservés jusqu'à nos jours lors des schémas évolutifs suivis par l'humanité, c'est qu'ils rendaient plus de services qu'ils ne produisaient d'inconvénients. L'espèce humaine (et le reste de la vie avec elle) entrent cependant aujourd'hui dans une époque où les anciens réflexes, commandés par d'anciennes structures génétiques, cérébrales et idéologiques (mémetiques, au sens de Dawkins), peuvent s'avérer dangereuses, tant pour les individus que pour les groupes sociaux. Or les travaux sur les automates-machines intelligents contribueront à ce que ces automatismes anciens deviennent à leur tour, au moins en partie, mieux connus, mieux évaluables, et peut-être, plus facilement modifiables, en tant que de besoin. Ceci signifiera un accroissement de l'intelligence et de la conscience globale - pour le plus grand bien, espérons-le, des civilisations futures et de la vie en général.

Dans les deux cas, il faut se persuader que seul, le perfectionnement des technologies permettra de progresser. Les neuro-chirurgiens sont les premiers à en témoigner. Les hypothèses les plus brillantes sur le fonctionnement du système nerveux ne débouchent pas tant qu'une technologie n'est pas apparue permettant de tester les hypothèses (par exemple les technologies d'imagerie cérébrale). Nous avons là un exemple très significatif en faveur de ce que l'on pourrait appeler, d'une façon plaisante, le retour en force d'un matérialisme  pur et dur. C'est la raison pour laquelle les réserves mises aux possibilités de progrès technologique par une opinion publique mal informée paraissent particulièrement insupportables, d'un simple point de vue philosophique.

Nous reviendrons plus en détail et ultérieurement, dans la définition consacrée à l'intelligence, aux caractères permettant de pouvoir qualifier un automate d'intelligent.

* Daniel Dennett. Darwin est-il dangereux. Odile Jacob 2000
** Steven Pinker. Comment fonctionne l'esprit. Odile Jacob 2000
***Richard Dawkins. Le gène égoïste. 1976-1989 Odile Jacob  1996 - The extended phenotype, Oxford Univ. Press 1982 - L'horloger aveugle 1986 Laffont 1989 -  Sur Dawkins http://www.world-of-dawkins.com/

Le paradigme de l'automate

paradigme: ensemble des problèmes étudiés et des techniques propres à leur étude  (Larousse).

Reprenons l'idée présentée dans la page consacrée à l'automate. Le terme d'automate est connoté de façon négative dans le langage courant. Est dit "automatique" ce qui fonctionne de façon asservie et sans faire appel au jugement intelligent et conscient de lui-même - ce que  l'on peut qualifier d'automatisme primaire. De tels automates se rencontrent partout, notamment dans les processus industriels ou les systèmes d'armes.
On associe souvent aussi l'automate à l'ordinateur, en expliquant que celui-ci ne peut en aucun cas fournir des comparaisons applicables à l'anatomie ou au fonctionnement des systèmes nerveux. C'est vrai, mais la question n'est plus là. La question est dorénavant de savoir comment l'automate-machine, ne disposant encore que de peu de degrés de liberté, pourra acquérir une intelligence, une sensibilité et même une conscience le rapprochant de ce dont est doté à cet égard le vivant et l'humain. Il s'agira alors d'un automate intelligent et, espérons-le, conscient. Comme l'on sait, les perspectives ouvertes aujourd'hui par la programmation génétique et  la compétition darwinienne entre populations d'automates soumis à des contraintes sélectives, sont extrêmement stimulantes.

Parallèlement, comme indiqué ci-dessus, l'introduction de potentiels d'intelligence et de conscience dans les automates-machines fera plus clairement apparaître ce qui relève encore de l'automatisme  réflexe ou inconscient dans les mécanismes du vivant et de l'humain (chez l'individu ou au sein des groupes d'individus, mâle-femelle, parents-enfants, troupes, tribus, sociétés de toutes tailles et toutes natures). Les développements intéressant l'automate-machine intelligent puis conscient permettront d'éclairer les mécanismes naturels ayant permis l'introduction ou le renforcement des aptitude à l'intelligence et à la conscience dans les systèmes vivants, afin dans un second temps de favoriser leur propagation  dans les domaines de la vie qui leur échappent encore. N'oublions pas en effet que l'immense majorité des dispositifs biologiques  et sociétaux observables dans le monde actuel fonctionnent sur des modes automatiques inconscients et, souvent d'ailleurs, de ce fait, mal élucidés par la connaissance scientifique. L'homme lui-même, qu'il soit considéré à titre individuel ou au sein des groupes sociaux, est fait d'une très grande part d'inconscient et d'inconnu. Capter puis connecter à des circuits conscients les informations relatives à l'activité inconsciente des êtres vivants et des hommes ne pourra qu'étendre le champ de la connaissance scientifique consciente. Nous pouvons supposer que ces anciens automatismes, jusqu'ici utiles puisque conservés par l'évolution, pourraient devenir nuisibles dans la civilisation actuelle. En tous cas, il ne sera pas inutiles d'essayer de mieux les connaître, afin d'en faire l'inventaire et l'évaluation.

Mais, comme l'indique Gérald Edelman*, la réalisation d'un automate conscient pourra faire plus que nous éclairer sur les automatismes inconscients à l'oeuvre dans les systèmes vivants. Elle pourra nous éclairer sur notre propre conscience, en faisant apparaître ce qui restait encore dans l'ombre, ou en en donnant des versions différentes.

Notons tout de suite qu'il apparaîtra peut-être dans certains cas dangereux, à supposer que cela devienne un jour possible, de rendre conscients tous les processus de la nature. La conscience encourage parfois le conservatisme. Le non-conscient favorise au contraire l'innovation sur le mode chaotique ou aléatoire.

Il faut donc le répéter. Ce que nous appelons ici le paradigme de l'automate ne veut pas dire que nous proposons de réduire l'homme et le vivant à l'automate-machine primaire, mais au contraire d'essayer de propager, dans l'ensemble du monde terrestre, des processus intelligents bénéficiant du meilleur des automatismes-machines évolués, auxquels s'ajouteront les ressources de l'intelligence et de la conscience humaines. De ceci pourront peut-être émerger des morales aux ambitions plus ou moins élevées, déjà à l'œuvre chez le vivant et l'homme, mais aujourd'hui encore insuffisamment développées.

Il est évident que, dans le climat de peur de la technologie qui prévaut en France dans les milieux intellectuels, toute démarche, et en particulier la nôtre ici, envisageant des relations futures entre hommes et automates, sera accusée de vouloir subordonner les premiers aux seconds. L'on parlera certainement d'ivresse technologique, voire d'une entreprise commerciale subtile, visant à remplacer les hommes par les produits de l'industrie. Nous espérons que nos lecteurs nous feront grâce de ces soupçons.

Rien en effet n'interdit de penser qu'à terme (plus ou moins lointain, ou plus ou moins proche, selon le désir que la civilisation en aura), le monde terrestre sera peuplé d'automates intelligents et conscients résultant de symbioses diverses entre hommes, êtres vivants non humains et machines, sans sacrifier en rien aux valeurs actuelles et futures de l'humanisme C'est du moins l'ambition que l'on peut se donner, ambition qu'il est tout à fait permis d'ailleurs de discuter, mais avec bonne foi, et sans accuser a priori l'interlocuteur de réductionnisme.

Nous avons déjà fait observer que le paradigme de l'automate se transpose particulièrement bien dans l'approche des questions découlant aujourd'hui de la génétique et du génie génétique . Là aussi, il est question de créer de nouvelles fonctions, voire de nouveaux êtres, en décryptant et réutilisant des automatismes naturels. L'on craindra ou l'on valorisera de la même façon les progrès de la génétique et ceux de l'automatisme. De plus, dès maintenant, certains développements se rejoignent et s'interfécondent. A l'avenir, ils convergeront dans la réalisation (ou plutôt dans l'émergence) de cybiontes animaux ou humains , dont il n'y a aucune raison de dresser a priori des portraits effrayants.

* Gérard Edelman, Comment la matière devient conscience, Odile Jacob 2000.
Consulter la fiche de lecture