Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

Novembre 2000
Jean-Paul Baquiast

Le paradigme de l'automate ou le dialogue d'Alain et Bernard

Chapitre1, section 2
Avant de lire ce feuilleton, il est conseillé au lecteur de se reporter à nos éléments de définition.
NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.

Episode précédent

Alain

Mais de quelle façon l'automate peut-il s'affranchir, si l'on peut dire, du point de vue que lui impose l'homme, son constructeur, et de ce modèle omni-présent aujourd'hui, celui de l'ordinateur programmé à l'avance pour accomplir des tâches déterminées ?

Bernard

De plus en plus (et ceci est tout à fait original et intéressant) l'automate des récentes générations peut, grâce à des programmes "ouverts", fonctionnant sur le mode des "circuits neuronaux auto-complexificateurs" s'adapter à des données ou situations nouvelles. Certaines de celles-ci, si elles se répètent, peuvent produire des réponses qui s'intègrent aux instructions initiales. Il y a donc l'équivalent d'une acquisition par l'expérience. C'est un point essentiel, sur lequel nous reviendrons : l'automate, comme un être vivant évolué, s'enrichit et se construit à l'épreuve de l'expérience. Sa mémoire acquiert l'une des caractéristiques les plus fondamentales du cerveau humain, la plasticité. Cette dernière elle-même permet l'invention aléatoire, avec survie des solutions les mieux adaptées. En découle un caractère essentiel, présent partout dans les organismes biologiques, l'auto-adaptation et souvent l'auto-complexification (certains disent aussi l'auto-poiëse)

Rappelons que ces deux mots désignent le fait pour un système de s'adapter seul aux changements de son environnement, ou à des environnements de plus en plus élargis, d'une façon stable et reproductible. Jusqu'à ces dernières années, cette aptitude paraissait réservée aux systèmes vivants. Aujourd'hui l'on peut programmer des systèmes matériels afin de les rendre auto-complexificateurs.

La mise en évidence de cette aptitude à l'auto-organisation ou l'auto-complexification est particulièrement intéressante lorsqu'elle se manifeste dans des sociétés d'automates (sociétés réelles ou simulées sur ordinateur). L'on voit alors des automates relativement simples, dotés d'instructions très réduites, confrontés les uns aux autres et à un environnement offrant des difficultés croissantes, créer des structures sociales "holistes", c'est-à-dire comportant plus de propriétés que chaque individu n'en a lui-même. Cela fait penser à ce qui se passe chez les insectes sociaux, les termites, par exemple, ou plutôt chez l'homme en société.

Alain

Oui, les sociétés humaines évoluent un peu plus que les sociétés de termites...encore que...Quelle sont les méthodes utilisées pour atteindre ce résultat?

Bernard

Ne m'en demandes pas trop. Il faudra consulter sur Internet la littérature consacrée à ces questions  de l'Evolutionnary Computing. Les outils et solutions se perfectionnent tous les jours. Disons que le principe de base est fourni par ce que l'on appelle les algorithmes génétiques, eux-mêmes supportés par des réseaux neuro-mimétiques. Dans la programmation génétique, l'on part d'une population de solutions choisies au hasard ou selon certains critères assez larges. L'on définit ensuite une fonction de mesure d'aptitude adaptée au problème à résoudre. Cette fonction est un système itératif qui sélectionne en plusieurs passages les solutions les plus aptes, lesquelles sont autorisées à transmettre leurs caractéristiques ou "gènes" à la génération suivante. Les règles de la sélection sont définies par des opérateurs génétiques: mode de reproduction, nature des mutations, possibilités de recombinaison ou échange de gènes entre individus ayant été sélectionnés, etc. De nouvelles populations sont générées jusqu'à ce que la solution la plus adaptée apparaisse. Le système est très souple, et les "solutions candidates" ne sont pas nécessairement des équations. Toutes les formes d'expression possibles peuvent en principe être utilisées.

La programmation génétique présente de nombreux avantages au regard de la programmation classique. Elle ne nécessite pas une description mathématique en profondeur du problème auquel elle est appliquée. Elle peut apporter des réponses à des problèmes qui paraissaient hors de portée des mathématiques traditionnelles, ou qui n'étaient pas prévisibles. Elle s'adapte à des questions floues ou mal posées. Elle est bon marché et facile à utiliser. Elle peut se combiner aisément à d'autres méthodes de calculs et surtout aux réseaux neuronaux ou neuromimétiques. Les algorithmes génétiques enfin sont modulables, adaptables par changement simple de données, transférables d'un problème à l'autre. Ils conviennent bien, également, aux ordinateurs à traitement parallèle

Ainsi l'on pourra ne pas imposer d'avance de stratégies précises à l'automate auto-complexificateur. On le soumettra au contraire à des stimulus différents et aléatoires, pour voir comment il réagira.

Alain

Quel est l'intérêt de donner à l'automate la possibilité de se programmer lui-même? Ne va-t-il pas un jour échapper à l'homme?

Bernard

Il y a un intérêt majeur à ce que l'automate devienne capable de se structurer et se développer lui-même. D'abord pour des raisons d'économies. Il deviendra très vite coûteux d'introduire dans une mémoire d'automate toutes les instructions lui permettant de faire face à des questions complexes. Mais aussi parce c'est ainsi que fonctionnent les êtres vivants en général. Ils se construisent en grande partie par essais et erreurs, sélection darwinienne, apprentissage par imitation, etc. Ces mécanismes s'expriment soit au plan génétique, soit au niveau des individus eux-mêmes, dans le cadre des échanges "culturels". Il faut que, par construction, s'ils veulent survivre, ils puissent inventer  des solutions entre lesquelles la compétition choisira la plus apte.

Tu vois qu'il devient donc possible de réaliser des automates dont la mémoire s'organisera d'elle-même en fonction des problèmes à résoudre. Si l'automate doit naviguer dans un appartement, sa mémoire et l'ensemble de ses circuits neuro-moteurs se construira d'une façon différente de celle qu'elle adopterait pour circuler sur un sol accidenté, comme celui de la planète Mars, par exemple. L'automate pourra s'individualiser à l'extrême. De là à échapper à l'homme, nous en sommes encore loin. Mais la question se posera un jour.

Alain

Cette idée d'individualisation ou d'individuation de l'automate est intéressante. Elle s'oppose à l'idée que la société de l'information produit en série des machines, des opinions et finalement, des individus semblables.

Bernard

Tu as tout a fait raison. Nous reviendrons plus loin sur le problème de l'individuation. Tout démontre aujourd'hui, contrairement aux idées répandues, que l'uniformité n'existe nulle part, et en tous cas pas de façon durable. Les facteurs d'évolution s'incarnent dans des acteurs se présentant comme des "individus", différents les uns des autres de façon suffisamment significatives pour créer du désordre, générateurs de nouvelles sélections, et donc de nouvelles innovations.

Lorsque les mémoires artificielles seront devenues "massivement" capables d'enregistrer les données de l'environnement, et ses propres réactions à ses données, l'automate pourra commencer à accumuler, de lui-même, des réponses à des questions aussi nombreuses que celles rencontrées par un jeune animal, ou même un nourisson - ceci sans intervention humaine.

Nous verrons qu'il existe actuellement une convergence très prometteuse entre les sciences du système nerveux et du cerveau, et celles de l'automate-machine. Les progrès des neuro-sciences, notamment avec les possibilités de plus en plus fines d'individualisation du neurone, des connexions interneuronales et des associations plus ou moins durables ou étendues entre neurones, se développent en parallèle avec les progrès réalisés sur les mémoires artificielles. Dans les deux cas, l'on se retrouve au niveau de la molécule et de l'atome, où les différences entre le vivant et l'artificiel sont de moins en moins perceptibles.

Alain:

Ce sont ces points sur lesquels nous allons revenir ultérieurement, je suppose.

Bernard:

Oui. Nous reverrons, si tu veux, notamment à propos du génome et plus encore de la conscience, ce concept d'individu et d'individuation, qui me paraît d'une très grande importance relativement au regard que les sciences modernes peuvent jeter non seulement sur les hommes, mais aussi sur les animaux et tous systèmes biologiques en général.

Pour en revenir aux automates auto-complexificateurs, leurs développements sont limités par le coût des recherches, leur relatif manque d'intérêtéconomique immédiat, et sans doute aussi des réticences intellectuelles. Mais potentiellement, la démarche n'a pas de limites. Dans le seul état actuel des technologies, on est loin d'avoir imaginé, et moins encore expérimenté, les champs de développement possibles de ce que l'on pourrait appeler l'automate étendu: celui qui, par exemple, s'organiserait seul pour récupérer et utiliser toutes les connaissances dispersées dans les réseaux de gestion de la connaissance existants, en biologie, en neurologie, en science des organisations... Ceci dit, les gens qui s'occupent de ces questions sont en très petit nombre - même aux Etats-Unis, pourtant leaders mondiaux du domaine.

Alain

Il est exact que l'on pourrait s'étonner, voire s'indigner, de constater combien les travaux sur les automates dans les sociétés modernes restent confinés à quelques passionnés, au sein de laboratoires assez  marginaux - j'exclue évidemment tout ce qui concerne les grands programmes militaires, spatiaux ou industriels faisant appel à de nombreux automatismes de production ou de surveillance. Par ailleurs, les travaux, quand ils existent, se font dans des directions de recherche spécialisées, par exemple la reconnaissance vocale, la vision artificielle, le virtuel. Les grandes synthèses sont encore rares, qui réuniraient tous les acquis du moment dans un système intégré.

Bernard

Tais-toi, tu me fais bouillir. Quand je pense à toutes les avancées qui auraient pu se produire depuis longtemps si l'on avait consacré aux recherches sur les automates le quart de ce que l'industrie agro-alimentaire investit chaque année en nouveaux produits de consommation...

C'est bien pour changer cette tendance qu'il faut essayer de contribuer à rendre les automates intéressants aux yeux du citoyen.

Alain

Nous avons examiné les automates, éminents représentants de la vie artificielle, mais nous n'avons pas encore beaucoup parlé de ce qu'ils contiennent, ou bien de ce à quoi ils servent. Nous posons en principe que les automates sont ou deviendront intelligents. Vont-ils donc récupérer tous les acquis de l'intelligence artificielle?

Bernard

L'intelligence artificielle est une discipline, ou un ensemble de disciplines, qui remonte aux premiers temps de l'informatique. Les écoles, les espoirs, les échecs aussi, ont été innombrables. Pensons à la traduction automatique de première génération, à la reconnaissance des formes, aux systèmes-experts, aux grands modèles proposés par Mac Namara dans la guerre du Viêt-Nam. Ces solutions, sans avoir véritablement avorté, se sont révélées beaucoup plus complexes que l'on n'imaginait, et surtout, hors de portée des ordinateurs de l'époque, qui étaient de véritables brouettes.

Aujourd'hui, les choses changent, mais, si l'on ajoute à l'intelligence artificielle les autres branches de la cognition, psychologie, linguistique, sciences humaines de toutes sortes, etc., où l'ordinateur intervient massivement aujourd'hui (d'où ce terme de cognitique), le domaine à étudier ne se simplifie pas, au contraire. Mais c'est une bonne chose.

Alain

Pourquoi?

Bernard

Dans ce que nous avons décidé d'appeler le paradigme de l'automate, nous avons posé le principe - philosophique - que tout ce qui se trouve dans la nature, ou plutôt tout ce que l'homme y observe, y compris lui-même, peut s'expliquer par des processus algorithmiques computationnels, sélectionnés par la compétition darwinienne. La science ne peut en fait aujourd'hui démontrer la justesse de ce requisit, compte tenu de ses nombreuses limites. Elle ne le pourra peut-être jamais. Mais peu importe pour le moment. Ce qui nous importe c'est que se poursuivent en parallèle, comme nous l'avons déjà dit, la réalisation de systèmes automatiques de plus en plus proches du vivant, et l'étude de plus en plus systématique de ce dernier, en utilisant chaque fois que possible ce que la vie et l'intelligence artificielle nous aura appris - et réciproquement. Le travail ne manque pas. La science est condamnée à examiner les innombrables automatismes naturels existant dans la nature ou dans la société humaine, ceux notamment qui sont producteurs de langages, d'opérations logiques et, plus généralement, de cognition. Il faudra ensuite se demander si les automatismes artificiels peuvent ou non enrichir et rendre plus intelligents et plus conscients encore ces processus cognitifs.

Alain

C'est une condamnation qui n'en est pas une, puisqu'il s'agit d'une garantie d'emploi à vie pour des millions de chercheurs.

Bernard

Si nous arrivons à décrypter certaines formes d'intelligence ou de cognition que nous n'aurions pas encore identifiées, à l'oeuvre, par exemple, dans une société animale, ou dans un groupe humain complexe (il en existe beaucoup encore que nous cotoyons, voire que nous fréquentons, sans comprendre grand chose à ce qui s'y passe), nous aurons intérêt à reproduire ou simuler ces formes de cognition puis à les introduire dans les automates artificiels, afin d'enrichir ces derniers et d'étendre leurs aptitudes à la polyvalence. Nous sommes donc, en principe, condamnés à reprendre toutes les études sur les sciences humaines et sociales, et pas seulement sur la cognitique.

Alain

Il est impensable de demander aux automaticiens de faire tout ce travail.

Bernard

Bien sûr. C'est à chacun des chercheurs dans les diverses sciences humaines de faire l'effort de travailler en liaison avec les automaticiens purs et durs, et en liaison entre eux. Malheureusement, ce monde est divisé en chapelle irréductibles, qui n'ont pas encore bien compris les bénéfices de l'interdisciplinarité et du travail coopératif en réseau. Manquent également les incitations budgétaires (ou commerciales) qui pourraient pousser de jeunes chercheurs à investir de concert.

Par ailleurs, les difficultés que nous avons évoquées concernant la façon de reproduire en machine le fonctionnement du corps biologique, en citant Steven Pinker*, se retrouvent quand il s'agira d'analyser et simuler la façon dont fonctionne l'esprit. La linguistique en offre un exemple souvent cité. Non seulement écouter et parler représente un énorme défi pour un automate, mais encore plus interpréter les sens des mots et des phrases, construire des articulations syntaxiques, etc. Certaines solutions simples sont en cours de développement, dans des systèmes industriels par exemple. Elles font l'essentiel de la littérature spécialisée. Ce sont de premiers pas à ne pas négliger, mais elles sont loin d'épuiser les problèmes.

Alain

Ce que tu dis sur la linguistique me fait penser aux discussions d'il y a quelques années entre Chomsky et les évolutionnistes darwiniens. Je crois me souvenir que Chomsky ne pouvait pas admettre que les structures cérébrales capables d'apprendre au jeune enfant à parler en quelques mois aient été formées par adaptation darwinienne, c'est-à-dire en fait par une espèce d'Evolutionnary Computing naturel avant la lettre. Mais il n'a jamais été capable de montrer quelle autre solution a pu intervenir (en dehors d'un Deus ex machina qu'il refusait par ailleurs). Ceci laisse donc la voie libre aux automaticiens de demain pour réaliser des machines évolutives capables d'apprendre à manipuler le langage de la même façon que le jeune enfant, et non par utilisation de syntaxes et dictionnaires réalisés par des programmeurs humains.

Bernard

Oui, ce sera un exploit au moins aussi grand que celui de la synthèse artificielle de la vie, ou la réalisation de consciences elles-aussi artificielles. Mais il y a autre chose que nous devons examiner aujourd'hui. Il s'agit des relations actuelles et futures entre les machines ou artefacts, et les ingénieurs ou utilisateurs qui s'intéressent à elles.

Alain

La relation de l'automate à l'homme est simple. L'automate dépend de l'ingénieur qui l'a construit et qui participe à son apprentissage. Plus généralement, c'est l'homme qui lui fournit l'énergie dont il se nourrit. S'il n'y a plus d'homme pour mettre le courant électrique, il n'y a plus d'automate.

Bernard

C'est vrai, mais la constatation doit aller plus loin. Plutôt qu'opposer dans le propos l'homme et l'automate, il va falloir s'habituer à les associer. C'est un point de vue auquel l'on ne pense pas encore assez. L'automate, aujourd'hui, n'est jamais totalement séparable de l'homme. Il fonctionne dans un environnement complexe d'interfaces homme-machine où l'homme et l'automate conjuguent leurs possibilités. C'est vrai de tous les mécanismes, mais c'est particulièrement important dans le domaine de l'automate, où celui-ci tend de plus en plus à se rapprocher des fonctions de l'homme. L'on distingue généralement un pilote d'avion de son avion, mais il sera de plus en plus difficile de distinguer un homme des automates avec lequel il coopère et s'interface.

Les interfaces homme-machine simples sont déjà présents partout. Ce sont eux qui permettent de communiquer facilement, ergonomiquement, avec la machine. La reconnaissance vocale ou la reconnaissance de forme en entrée, la synthèse vocale ou l'image animée en sortie, fournissent déjà des solutions qui, il y a quelques années, auraient stupéfié le public. Les jeux, mais aussi tous les dispositifs électroniques quotidiens, portables, ordinateurs embarqués sur automobiles, utilisent ces techniques...

Alain

Je sens que tu penses à la belle Ananova.com, la speakerine virtuelle qui communique de l'information écrite sous forme parlée, en synthèse vocale accompagnée d'une visualisation ma foi fort agréable... encore qu'elle ne soit pas très souriante, pour le moment du moins...

Bernard

Dans quelques temps, les serveurs d'information ne manqueront pas de te proposer une Ananova (féminine ou masculine d'ailleurs) adaptée à l'image qui te motivera le plus. Elle sélectionnera ce que tu souhaites entendre, te le dira de la façon la plus efficace possible, et s'enrichira progressivement, en contact exclusif avec toi, si bien que tu finiras par oublier qu'il s'agit d'un simple interface de type agent intelligent, pour y voir quasimment un alter ego. C'est là un domaine très importants de recherche et de production, qui relève de la réalité virtuelle.

Mais je ne pensais pas seulement aux simples interfaces homme-machine. Je pensais aux véritables systèmes homme-machine, ceux où l'homme et l'automate se conjuguront pour multiplier leurs performances. Les systèmes homme-machine ne sont pas des "idées en l'air", mais peuvent être analysées comme des entités réelles, y compris dans leur composantes biologiques. L'homme peut, dans cette perspective, être considéré comme un outil accroissant, presque à l'infini, et sans délais, les capacités de l'automate, y compris dans le domaine où ce dernier est pauvre, au plan de l'intelligence.

Ceci est vrai dans les innombrables applications où l'homme utilise l'automate pour accroître sa propre efficacité. L'on pense généralement aux tâches de type industriel, mais n'oublions pas non plus les automates logiciels qui permettent, par exemple, d'explorer les données et informations en ligne sur les réseaux. Nous retrouvons là le domaine, déjà évoqué, de l'Intelligence Artificielle (IA). Les moteurs de recherche sur Internet, les systèmes d'analyse sémantique de textes, les programmes de traduction automatique et bien d'autres développements de l'IA ne prennent tous leur sens qu'avec des hommes intelligents capables de suppléer à leurs lacunes. L'on retrouve dans cette approche toutes les applications que l'on qualifiait dans la dernière décennie d'assistées par ordinateur (AO, diagnostic, enseignement... assisté par ordinateur). Mais s'agit-il alors de prothèses virtuelles ajoutées à notre cerveau, ou d'aptitudes à l'intelligence conférées à l'ordinateur?

Inutile pour le moment de développer ces perspectives, qui sont bien connues aujourd'hui. Retenons que la société de l'information est le nouvel environnement biologique où vont se développer les hommes et leurs associés automates de demain.

Mais il y a plus, et certains diront, il y a plus inquiétant...

Alain

Inquiétant?

Bernard

Tu as entendu parler du concept d'homme symbiotique, pour parler comme Joël de Rosnay**, ou cybionte: des connexions nerveuses directes entre l'homme et l'automate transforment l'automate en une véritable prothèse qui peut augmenter, théoriquement sans limites, les capacités de l'homme. Des expériences sont menées actuellement pour connecter directement aux nerfs ou au cerveau des caméras ou des microphones destinés à remplacer l'œil (ou à lui offrir de nouvelles performances) ou l'oreille. L'on essaye également d'implanter des micro-électrodes dans certaines zones de cerveaux animaux et même humains. Ceci ne fera que se développer, avec des solutions de moins en moins invasives (n'exigeant pas d'opérations chirurgicales toujours assez déplaisantes).

Parallèlement et en sens inverse, si l'on peut dire, l'on commence à interconnecter des neurones isolés, cultivés in vitro, à des mémoires électroniques, pour leur permettre d'échanger des impulsions et voir comment ces composants différents, biologiques et électroniques, pourront coopérer à l'avenir. Les perspectives ouvertes sont considérables. Du neurone isolé, l'on passera vite à la chaîne de neurones puis à des fragments entiers de matière neuro-cérébrale. Le neurone est intéressant parce que l'on découvre qu'il a beaucoup plus de capacités de régénération et d'interconnexion in vitro que l'on imaginait.

N'oublions pas enfin qu'avec le génie génétique, l'on pourra fabriquer des cellules ou des organismes comportant les fonctions ou synthétisant les produits les mieux aptes à communiquer avec les puces électroniques, les réseaux opto-électroniques et autres composants physiques.

Dans le cybionte de demain, l'homme fournira à l'automate les capacités qui lui manquent, notamment au plan cognitif, le rendant ainsi plus compétitif dans la bataille de l'évolution. Si la proportion homme/automate dans cet espèce de pâté d'alouette qu'est l'interface homme-machine s'inversait au profit de la machine, ce serait l'homme qui pourrait dans certains cas devenir, véritablement cette fois-ci, un complément ou prothèse de l'automate.

Alain

J'entends bien. Tu peux toujours lancer cette affirmation. Tu auras ton petit effet dans un salon. Mais n'anticipes-tu pas trop?

Bernard

Moi, je constate une chose: sans que personne ne l'aie décidée explicitement, la technologie des automates non-vivants et celle de leurs interfaces avec l'homme est en train de se perfectionner rapidement. Nous sommes dans un train qui ressemble beaucoup à celui du génie génétique. Les deux démarches d'ailleurs, nous venons de le voir et nous y reviendrons, se conjugueront bientôt. De nombreux philosophes, mêlés d'auteurs de science fiction, commencent à crier gare. L'on voudrait interdire ou limiter les recherches, en vertu du principe de précaution, mais rien n'y fait - et c'est tant mieux, sous de nombreux aspects. La machine scientifico-technique, entraînant les cohortes d'humains conditionnés par elle, est en marche, et génère à un rythme qui ne fera que s'accélérer quantités de formes et structures nouvelles. Ce n'est ni bien ni mal. Pour le moment, l'éthique n'a rien à y voir. C'est plus tard, quand il s'agira de savoir ce que nous ferons de tout ceci, qu'il faudra se poser des problèmes d'éthique.

Alain

Tu m'effraies vraiment, quand je t'entends parler ainsi. Alors qu'aujourd'hui, le discours politique est à la multiplication des comités d'éthiques, des retours à la vraie nature, etc... Ces perspectives de l'automate, si elles sont exposées sans nuances par des passionnés (dans ton genre, n'est-ce pas ?) vont faire se lever des légions de nouveaux José Bové. Ils brûleront les laboratoires. Déjà les nouvelles speakerines électroniques (sur le style de la belle Ananova dont nous avons parlé) commencent à faire sérieusement peur.

Bernard

Ce que je veux dire est qu'il ne faut pas se poser de problèmes d'éthique à l'égard de choses qui n'existent pas encore. Si par précaution, l'on décide de ne rien faire, il ne se passera effectivement rien, et l'on en restera au moyen-âge. Mais peut-on seulement décider de ne rien faire?

Ceci dit, tu as raison, relativement à la communication entre les chercheurs et le public. Il va falloir prochainement prendre en compte, concernant le développement des automates, la relation avec celui-ci. Les prophètes de catastrophe ne manqueront pas, pour essayer de traumatiser les foules, et se donner à l'occasion un peu de notoriété médiatique.

Il faut bien voir par ailleurs que, souvent, trop souvent, sous le paravant de l'éthique, se cachent des intérêts conservateurs qui cherchent à survivre.

Alain

A l'inverse, les tenants de l'accélération des recherches cachent d'autres intérêts, ceux des firmes voulant commercialiser le vivant ou produire de l'électronique, par exemple...

Bernard

Tout ceci mérite discussion. Ceci dit, a priori, je préfère celui qui veut avancer à celui qui ne veut pas bouger...

Nous pouvons mentionner enfin une perspective de recherche, concernant les cybiontes, que l'on cite rarement : celle consistant à interfacer des systèmes automates non-vivants avec des animaux. Il s'agirait de réaliser ce que l'on pourrait appeler des cybiontes animaliens. Cette perspective pourra poser moins de problèmes éthiques que lorsqu'il s'agira d'interfacer l'homme et l'automate.

Alain

Encore que...tu verras les défenseurs des animaux et de leur intégrité manifester...Animals Rights Watch...

Bernard

Je ne sais si ce seront les défenseurs des animaux qui manifesteront, ou les défenseurs d'une certaine idée figée de l'homme, selon laquelle ce dernier est le seul siège possible de l'intelligence. Pourquoi en effet refuserait-on de donner plus de conscience, d'intelligence ou de langages aux animaux, dès lors que ceci se ferait dans un respect accru des êtres hybrides qui résulteraient de ces essais ? En effet, l'objectif ultime que pourraient se donner des travaux sur les cybiontes animaliens serait de conférer la parole (une certaine forme d'expression, sinon de parole) à ce qui, chez l'animal, dans son cerveau, mais pas exclusivement dans son cerveau, dans ses habitudes sociétales, par exemple, recèlerait des formes d'intelligences et d'aptitude à la communication différentes des nôtres, avec lesquelles nous pourrions envisager de coopérer sur un pied - espérons-le - d'égalité.

Alain

Tu continues à faire de la science-fiction. Ceci dit, pour aller dans ton sens, j'ajouterais qu'il ne faudrait pas se limiter alors au dialogue avec les espèces proches de l'homme, grands singes ou dauphins. L'on pourrait peut-être apprendre beaucoup de choses d'espèces vivantes auxquelles l'on pense moins rarement, tout au moins quand il s'agit d'intelligence symbolique. Peut-être faudrait-il explorer aussi les richesses du monde végétal... encore que chez eux, le système nerveux central, si l'on peut dire, paraît reposer uniquement sur des échanges chimiques.

Bernard

En fait, l'on retrouvera un vieux problème philosophique, celui de savoir si l'homme peut capter des formes d'intelligences différentes de la sienne. En extrapolant, demandons nous si l'homme, face à des machines automates hyper-intelligentes se développant par auto-création générative, loin des schémas de la neurologie moderne, saurait s'ouvrir à leurs productions.

Alain

De même que nous ne saurions sans doute pas voir des formes d'intelligence extra-terrestres.

Bernard

Le seul remède pour éviter l'enfermement dans nos conceptions et paradigmes actuels, se serait d'encourager un anarchisme méthodologique aussi radical que possible.

Dieu merci, les progrès des machines automates ne sont pas en train de s'arrêter. Pouvons-nous mentionner à cette occasion les projets relatifs aux systèmes hyper-intelligents du scientifique américain De Garis, qui a travaillé pour l'industrie japonaise, puis maintenant pour les Belges..

Alain

Je suppose qu'il ne se trouve pas beaucoup d'automaticiens pour prendre cela au pied de la lettre. D'autant plus, si j'ai bien lu les articles de l'intéressé, que les technologies qu'il envisage restent couvertes par un épais secret... industriel, je suppose.

Bernard

Peut-être. Quoiqu'il en soit, selon lui, dans 30 à 50 ans, peut-être avant, les laboratoires auront produit des automates disposant de telles ressources et surtout de telles possibilités d'auto-apprentissage et d'auto-complexification, qu'ils auront toutes possibilités d'échapper aux contrôles humains - surtout si des hommes les aident à le faire. De Garis prédit certaines difficultés politiques de ce fait, ceux des hommes n'ayant pas suffisamment évolués risquant de se trouver dominés par les automates hyper-intelligents et leurs alliés humains. C'est vrai que peu de gens ne prennent au sérieux ces perspectives, au moins quand elles sont présentées comme devant se concrétiser dans un délai de quelques dizaines d'années.

Moi, je suis persuadé que nos enfants verront cela, avant d'être devenus des vieillards blasés. Ce ne sera peut-être pas la Cam-brain de De Garis qui touchera la mise, mais des systèmes analogues.
De passives, enfermées dans leurs instructions de départ, les unités centrales de l'automate deviendront actives, capables d'inventer en associant librement les informations résidentes ou acquises. L'automate, avec ses organes effecteurs, sera capable de tester les hypothèses que sa mémoire centrale pourra générer à un rythme ne connaissant ni fatigue ni distractions. Il se perfectionnera ainsi sans cesse, accumulant de nouvelles connaissances qui lui serviront instantanément de plates formes pour de nouvelles hypothèses et de nouvelles expérimentations.

Derrière tout cela, il y aura évidemment des hommes, qui se passionneront pour ces nouveaux développements, et auxquels il ne sera pas question de dire : "attendez, les ayatollahs ne sont pas d'accord".

Nous nous trouverons en présence du rêve de tout savant (et de tout homme de la rue normalement constitué): disposer d'une machine à inventer toujours disponible, jamais en grève, dépourvue de tout état d'âme, et produisant de l'innovation à grande échelle.

L'on peut espérer d'ailleurs que la puissance heuristique de telles machines outrepassera très vite les possibilités de contrôle du cerveau humain laissé à lui-même. Le grand nombre des hypothèses qui seront générées rendra difficile l'appréciation a priori de leurs retombées possibles, et les choix à faire. Mais surtout, la formulation automatique des hypothèses s'affranchira inévitablement des logiques très restrictives qui s'imposent aujourd'hui aux chercheurs pour de multiples raisons. Je reviendrai sur ce point important ultérieurement. Disons qu'aujourd'hui, l'anarchisme méthodologique, prôné par Paul Feyerabend pour revivifier la créativité de la science fondamentale, est en butte à l'académisme, à la recherche du profit immédiat, et plus simplement à l'étroitesse d'esprit de bien des scientifiques. Si nos automates hyper-intelligents (couplés à des hommes eux-mêmes, supposons-le, très intelligents) acquièrent un minimum d'autonomie par rapport au reste des humains, l'on peut penser qu'ils s'affranchiront de ces contraintes et relanceront une innovation tous azimuts, susceptible éventuellement, pourquoi pas, de remettre en question les fondements de la science actuelle.

En fait, les hommes évolueront parallèlement aux automates intelligents. Leurs progrès se répercuteront sur l'efficacité des systèmes homme-machine: l'inter-connectivité entre les systèmes neuro-moteurs de l'homme et de l'automate ne cessera de s'accroître. Elle fonctionnera dans les deux sens, l'homme instruisant l'automate et l'automate instruisant l'homme.

Alain:

N'oublie pas le scepticisme du public auquel s'adresseront inévitablement les chercheurs. Aujourd'hui, la société scientifique en est venue, beaucoup plus vite que les promoteurs de l'IA ne l'imaginaient il y a seulement 15 ans, à poser le problème de l'intelligence, sinon de la conscience, des automates. Mais j'entends déjà la réaction de ceux qui nous écouteraient: "Vous faites de la science fiction, ou bien vous êtes de dangereux irresponsables!". Autant des perspectives fondées sur le développement de technologies actuelles, autour des réseaux multimedia, par exemple, intéressent tout le monde, autant ce qui concerne les sciences et techniques de l'automates hyper-intelligent paraît relever du lointain futur, et donc n'intéressent que quelques passionnés. Comment faire prendre le sujet au sérieux?

Bernard:

Il est certain que les aspects les plus spectaculaires de l'intelligence, par exemple élaborer et discuter de nouvelles hypothèses ou théories scientifiques, élaborer des stratégies complexes, créer des œuvres d'art, ne sont pas à la portée des automates - tant du moins que ceux-ci ne sont pas interfacés avec des hommes ou des cybiontes. L'on ne dispose pas encore de systèmes automates capables de libre invention. Mais pour combien de temps ? Je suis persuadé que si l'on investissait sérieusement - comme on le fait pour la conquête de l'espace, par exemple - afin de réaliser des automates inventeurs et créateurs, l'on y arriverait très vite.

Alain

En fait, l'automate de demain ne devra pas seulement être intelligent. Il devra pouvoir, comme un être vivant, s'alimenter, se reproduire, se complexifier seul. Or là, nous sommes encore loin du compte. S'agit-il de véritables murs de la connaissance ou de la technique, que la civilisation actuelle n'est pas capable de franchir? Dispose-t-on au contraire de pistes prometteuses pour avancer dans tous ces domaines à la fois?

Bernard

Je suis persuadé qu'il y a des pistes, et même que ces pistes sont là, grandes ouvertes sous nos yeux, mais qu'en général, hormi quelques précurseurs, nous ne les voyons pas.
 

*Steven Pinker Comment fonctionne l'esprit, Odile Jacob 1999
**Par cybionte on désigne une association, selon des proportions variables, et sous toutes formes imaginables, entre des êtres vivants et des automates-machines. Le terme n'est pas à confondre exactement avec celui de cyborg. Aujourd'hui, il existe toute une mode artistique ou culturelle, dans la suite du body-art, visant à transformer l'individu en automate ou pseudo-automate, y compris par des implants. L'on obtient des cyborgs. Le phénomène est moins superficiel qu'il peut apparaître. Il montre la facilité avec laquelle les nouvelles générations se glisseront , notamment par l'art et les jeux du virtuel, dans le dialogue avec les automates. A signaler aussi dans cette direction le succès des travaux sur l' "artificial life" où se retrouvent parfois les excès du communautarisme naïf à l'américaine : nous serions entourés d'une nature artificielle vivant d'une vie propre (robots, virus informatiques, ou autres "animés") avec laquelle nous devons coexister pacifiquement.
 

La suite au prochain numéro