Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

Octobre 2000
AUTEUR

Eléments de définitions :
- Intelligence
- Cybionte

Intelligence  ( Voir aussi : intelligence artificielle)

Intelligence : faculté de comprendre, de saisir par la pensée (Larousse).

Concept particulièrement flou, mis un peu à toutes les sauces, dont nous aurions aimé pouvoir nous passer. Nous l'utilisons fréquemment à propos des automates (les automates intelligents) parce qu'il connote certaines catégories de performances dont le grand public croit avoir une connaissance suffisante. En fait, nous aurions mieux fait de parler d'automates conscients, mais le concept de conscience est trop lié aux neurosciences pour pouvoir être utilisé sans précisions à propos des automates.

Avant de proposer ci-dessous les critères généraux de l'intelligence, il n'est pas inutile de réflechir à la portée possible du concept. Il semble que la meilleure façon de définir et mesurer l'intelligence d'un organisme consiste à élaborer des batteries de tests et d'essais auxquels cet organisme sera soumis. Il ne s'agira pas seulement de mesurer le populaire QI, mais tout ce qui concerne les activités sensorielles, motrices et intellectuelles, en environnement plus ou moins diversifié et complexe. Ce sera donc le fonctionnement du corps, en principe sous le contrôle de l'esprit, qui sera mesuré. On pourra dans ce cas définir l'intelligence comme un ensemble d'aptitudes permettant à un animal ou à un automate d'accomplir vite et bien un certain nombre de fonctions relevant du traitement de l'information symbolique, au sein de systèmes neurologiques capables de computation. Les tests pourront être adaptés à des espèces particulières, en faisant apparaître les différences de réaction des individus à l'intérieur de ces espèces. Ils pourront aussi s'adresser à toutes sortes d'espèces ou d'entités différentes, afin de mesurer leurs performances comparées.

La théorie computationelle de l'esprit s'efforce de préciser les bases et les processus neurologiques servant à commander les comportements intelligents de chaque espèce vivante, qui sont tous évidemment les résultats de sélections darwiniennes ayant permis à ces espèces de survivre dans leur environnement. Mais une question se pose: le réflexe, lui-même programmé depuis longtemps par un circuit neuro-moteur lui-même mis en place sous contrôle génétique, est-il intelligent? Peut-on, même en face de réflexes particulièrement  subtils, commandés par des circuits nerveux complexes, parler d'intelligence? A ce compte, tout dans la nature serait intelligent, même au niveau d'une simple molécule réplicatrice ayant survécu à la concurrence de ses rivales, ou ayant développé des mutations mieux adaptées qu'elle-même à la survie?

L'on ne doit pas en effet confondre l'invention résultant du fonctionnement de l'esprit appliqué à un problème bien défini et concret à l'invention dont a toujours fait preuve l'évolution. La nature invente sans cesse, mais pas nécessairement de façon "intelligente", car sans utiliser de modèles symboliques, tout au moins dans les organismes ne disposant pas de systèmes nerveux centraux. Elle invente sur le mode de la réplication génétique, grâce aux erreurs de reproduction qui peuvent initialiser des solutions nouvelles mieux adaptées. Elle le fait au hasard, très lentement, sans stratégies finalistes, évidemment, et dans le cadre de filières sélectives dont il lui est difficile de sortir à moins de catastrophes. Avec l'apparition des systèmes nerveux traitant de l'information symbolique (eux-mêmes rappelons-le mis en place sous la commande de gènes spécifiques apparus à un certain moment de l'évolution dans certaines espèces vivantes) systèmes nerveux auxquels nous pourrions réserver le qualificatif d'intelligents, les machines à inventer naturelles apprennent à faire des liens entre filières, sur un rythme rapide, et peuvent ainsi gagner des avantages dans la compétition darwinienne.

Même au sein des espèces dotées de systèmes nerveux, nous faudra-t-il réserver le terme d'intelligence aux réflexes adaptatifs et ouverts, plutôt qu'à ceux apparaissant figés depuis des milliers de générations, mais ayant néanmoins survécu? Faut-il réserver ce terme aux produits de l'activité du seul cerveau humain, notamment dans le domaine du langage, et de l'articulation entre idées ou "mèmes", au sens de Dawkins, qu'hébergent certaines aires cérébrales? Faut-il réserver le qualificatif d'intelligentes aux idées répondant à certains critères susceptibles d'être évalués par des tests, des examens universitaires? C'est là l'ambiguïté du concept d'intelligence, que nous indiquions au début.

Certains veulent aller plus loin en définissant l'intelligence comme la capacité de poursuivre un but donné sans se laisser décourager par les obstacles rencontrés, mais au contraire en trouvant des parades à ces obstacles. Ces parades sont généralement recherchées dans la batterie de comportements ou d'outils dont dispose le sujet, mais qu'il n'aurait pas eu besoin d'utiliser s'il n'y avait pas eu d'obstacles: par exemple monter sur une chaise pour atteindre un aliment placé trop haut. Dans certains cas, mais le processus demeure alors le plus souvent mystérieux, l'obtention du but est atteinte par une invention que l'on serait tentée de dire ex nihilo, sans doute faute d'en voir les raçines profondes dans l'esprit du sujet. L'on peut estimer que de telles démarches supposent un minimum de conscience de soi, dans son environnement, avec projection dans le passé et dans le futur. Elles ne seraient donc pas à portée d'un animal peu doué pour la conscience, même par flashs.

La marge entre intelligence évoluée, inventive, et conscience est en effet ténue. Dans les cas les plus simples, l'inventeur, animal ou homme, peut procéder par essais et erreurs inconscients, en sélectionnant la solution la plus opportune. Son esprit compute tout seul, si l'on peut dire, les tenants et les aboutissants d'une situation. Mais dès que celle-ci se complique, l'appel à un minimum de conscience primaire paraît nécessaire. Celle-ci, selon certains psychologue, apparaîtrait très tôt, chez les animaux comme chez les bébés humains. Pour ne pas nous enfermer dans des débats académiques, nous pourrons ici nous limiter à définir deux types d'intelligence, toutes deux computationnelles: l'intelligence inconsciente, fonctionnant sans que le sujet se représente en train d'y faire appel, et l'intelligence consciente. Dans ce dernier cas, un cercle vertueux peut s'établir. Le sujet, conscient que l'intelligence lui apporte des avantages sélectifs, tend à y recourir de plus en plus souvent, et évalue ses performances, de façon à en améliorer le fonctionnement.  

Les groupes humains, notamment les groupes structurés tels que les entreprises, les systèmes de gouvernement, utilisent beaucoup d'outils d'aide à l'intelligence (que nous pourrons appeler intelligence artificielle ou intelligence assistée). Mais ils présentent simultanément de graves carences en intelligence évoluée (aveuglement, rigidité, manque d'imagination créatrice). Ils obéissent en majeure partie aussi à des déterminismes mal analysés, hérités des sociétés animales, donnant naissance à des comportements intelligents réflexes sous-jacents, non perçus par l'homme, qui les apparentent à des automates machine. Ces comportements peuvent avoir été intelligents dans le passé (répondant à des contraintes de l'environnement archaïque) et se révéler inadaptés aujourd'hui, sans avoir encore été soumis à des pressions de sélection suffisantes pour qu'ils disparaissent. Nous évoquons cette question dans la rubrique consacrée à l'intelligence collective.

Si l'on s'intéresse plus particulièrement aux performances des automates par rapport à celles des êtres vivants ou fonctions biologiques que ces automates sont censé reproduire, les tests d'intelligence auront un certain intérêt, mais ils n'épuiseront pas la question de l'intelligence chez l'automate. Si nous construisons un automate programmé pour répondre à tous nos tests et épreuves d'intelligence, y compris stratégiques, comme le jeu d'échec, nous n'aurons pas beaucoup avancé. Nous aurons reproduit certains de nos comportements intelligents, mais sans créer une entité capable d'invention. Il faudra inévitablement en arriver à créer des entités aptes d'elles-mêmes (sans programmation détaillée préalable) aux fonctions les plus nobles que nous attribuons à l'intelligence humaine ou à celle des animaux supérieurs: capacité de percevoir le changement, d'appréhender les problèmes, d'y apporter des solutions adaptées et/ou originales. Il faudra que ces robots soient dotés de moteurs ou générateurs produisant des résultats innovants analogues à ceux que l'évolution a fait apparaître chez les êtres vivants, et qu'analyse la théorie computationnelle de l'esprit déjà citée. Il faudra donc qu'ils bénéficient des possibilités de la programmation évolutive.

Les capacités d'intelligence dans les automates mécaniques paraissent susceptibles de s'accroître dans un proche avenir (10-25 ans?) à grande échelle, à la fois par le développement des mémoires dotés de vastes capacités auto-complexificatrices (plasticité), et par la mise en réseau d'automates répartis dans le monde entier, multipliant sans limites prévisibles les quantités de contenus potentiellement susceptibles d'être corrélés ou associés. L'on parlera à cet égard d'automates hyper-intelligents. Un point essentiel à ce sujet, qu'il faudra constamment garder en esprit, concerne l'importance qu'il y aura à laisser aux futurs automates hyper-intelligents toutes possibilités d'inventer leurs propres formes et processus discursifs ou cognitifs. Dans l'immédiat, en attendant la survenue d'éventuelles intelligences extra-terrestres, ce sera notre seule chance de renouveler notre vision du monde.

Comment, sous ces prémisses, et aujourd'hui, se représenter un automate intelligent, et plus généralement, de ce fait, l'intelligence? L'intelligence peut être consciente (d'elle-même) ou fonctionner de façon inconsciente.
Dès qu'elle devient consciente d'elle-même, nous l'avons vu, elle gagne en capacité de diffusion, puisqu'elle s'auto-entretient et s'auto-stimule en cercles vertueux. Mais il n'est pas besoin d'attendre la réalisation d'automates conscients pour commencer à implémenter sur des machines des fonctions et comportements caractéristiques de l'intelligence, telle que nous pourrons la définir dans un premier temps à l'image de nos propres comportements intelligents, de façon à disposer d'automates aussi opérationnels que possible. Cette approche, rappelons-le, s'inspirera du mode descendant (l'on cherche à reproduire chez l'automate ce que l'on croit percevoir chez l'homme) et non du mode ascendant (on laisse l'automate inventer lui-même s'il en est capable, ses propres formes d'intelligence). Si l'on s'intéresse aux capacités d'intelligence les plus banales, apparaissant ou susceptible d'apparaître chez les automates, celles-ci, détectées par les batteries de tests évoquées précédemment, pourront se caractériser:

• par la capacité de mettre en mémoire (passagèrement ou plus durablement) et manipuler un nombre très élevé de données visuelles, auditives, sensorielles, provenant de l'activité de veille ou d'attention, à partir desquelles le cerveau (l'unité centrale de commande, s'il y en a) réalisera de premières synthèses ou associations permettant notamment, par effet de renforcement, une pré-conceptualisation ou attribution d'un sens partagé. Ainsi, les images ou contacts émanant de "tout ce qui se bouge" seront-ils rangés dans un espace commun, précurseur du concept de mouvement, lui-même générateur d'actions d'évitement. Ces facultés, semble-t-il, relèveraient plus particulièrement, chez l'homme, du cerveau droit. La rapidité du temps de réponse entre perception et mise en mémoire est particulièrement importante, afin de rendre la veille efficace,
• par la capacité de construire, à partir des données précédentes, des modèles de plus en plus abstraits et synthétiques du monde. Il faut disposer de mémoires suffisamment vastes pour stocker un nombre suffisant d'informations, mais aussi de fichiers arborescents logiquement organisés pour classer et retrouver facilement l'information mémorisée. A cela s'ajoutent des programmes de recherche et d'invention (heuristique) très performants. Tout ceci conduit aux langages, aux grammaires, y compris mathématiques. Dans un premier temps, l'automate utilisera en effet les nombres et les mathématiques. Ultérieurement, il pourra disposer de modes de calculs analogiques, à partir de réseaux de type neuronal... Le temps de réponse est moins important en ce cas que la puissance de théorisation et l'audace de la formulation d'hypothèses... Ces facultés seraient considérées comme relevant plus particulièrement, chez l'homme, du cerveau gauche,
• par la capacité d'établir rapidement des liens nouveaux entre contenus informationnels (y compris images saisies par les organes sensoriels) et d'en tirer des synthèses et des hypothèses de scénarios comportementaux. Il faut faire un lien permanent entre la formulation d'une hypothèse théorique et la mise à l'épreuve de cette hypothèse, d'abord de façon encore théorique (expérience de pensée), puis in vivo, dans la vie réelle. Il faut ensuite tenir immédiatement compte des résultats de l'expérience pour mettre à jour le modèle dont l'hypothèse était issue. Ce seront les réseaux associatifs en boucles rétroactives ré-entrantes qui joueront là le rôle essentiel. Ces diverses aptitudes définissent les performances d'un système intelligent en terme d'inventivité ou de créativité. La rapidité de temps de réponse est importante, dans la mesure où ce type d'intelligence inventive peut faire émerger des solutions directement utilisables dans la compétition darwinienne entre systèmes automatiques, ou entre systèmes automatiques et organismes biologiques...,
• par la capacité de déstructurer et restructurer sans cesse les contenus des mémoires, afin d'éviter la rigidité et l'encombrement fermant le système à la perception du nouveau. Il s'agit d'un des programmes nécessaires à l'heuristique, que l'on mentionne rarement mais qui est essentiel pour permettre l'émergence de solutions résolument nouvelles,
• ajoutons bien entendu que l'automate sera doté, en fonction des tâches qui lui seront assignées, de toutes les organes d'entrée-sortie perfectionnés, existant déjà ou à inventer, lui permettant d'agir en environnements inaccessibles aux sens humains. Plus ces organes seront précis et diversifiés, plus l'automate sera capable de s'adapter seul à des situations complexes ou inattendues (par exemple dans des milieux extra-terrestres ou impraticables à l'homme).

Pour terminer cette courte présentation, il n'est pas inutile d'évoquer l'interview de Howard Gardner, "L'intelligence au pluriel" présenté par La Recherche de décembre 2000. Nous y reviendrons ultérieurement. Disons simplement ici que Howard Gardner est professeur de psychologie de la connaissance à la Graduate School of Education de Harvard. Dans cet article, il présente l'hypothèse que les êtres humains sont susceptibles de développer plusieurs formes d'intelligences correspondant à des aptitudes distinctes et à l'implication de différentes régions du cerveau. Inutile d'énumérer ces formes, sur le contenu et les frontières desquelles il est d'ailleurs possible d'argumenter indéfiniment: intelligence linguistique, logico-mathématique, musicale, spatiale, intercorporelle, etc. Ces capacités seraient à la fois d'origine génétique et provoquées par l'environnement, notamment l'éducation. On retrouvera les mêmes différences, atténuées, chez les animaux, espèces animales ou même individus au sein de ces espèces. Sur Howard Gardner, voir http://www.pz.harvard.edu/PIs/HG.htm ainsi que le projet éducatif Sumit http://pzweb.harvard.edu/SUMIT/Default.htm

Pour ce qui nous concerne, il faudrait conclure que les concepteurs des programmes informatiques développés par l'intelligence artificielle, instructive ou auto-adaptative, devraient peut-être choisir un domaine d'intelligence où ils pourront exceller, plutôt que viser à des intelligences généralistes. Mais peut-être serait-ce une conclusion réductrice, de laquelle il faudrait au contraire se garder.

Cybionte

Par cybionte (expression due semble-t-il à Joël de Rosnay*) l'on désigne des automates mixtes associant des éléments humains (individus, groupes), des artefacts ou automates-machines auto-adaptatifs et, de plus en plus, pour un proche avenir, des composants biologiques, produits notamment par le génie génétique et les nano-technologies.

Il s'agit de la perspective la plus susceptible de perturber la réflexion traditionnelle sur les automates. Elle fait en effet exploser les catégories bien définies de l'homme, de la machine et du vivant, ainsi que ce que l'on pourrait appeler les barrières intra-spécifiques entre elles. Des hybrides dont il est rigoureusement aujourd'hui impossible de prévoir les composants, l'architecture, les capacités (notamment en matière de conscience et d'intelligence) vont très prochainement voir le jour. Ces hybrides conjugueront les éléments les plus évolués des différents partenaires associés : par exemple, les aptitudes à l'intelligence consciente des individus et groupes humains, la puissance de mémorisation et d'action (notamment en milieu hostile) des automates machines, l'adaptabilité et la rusticité (notamment en milieu moléculaire et atomique) des automates biologiques (mémoires neuronales, génie génétique, nanotechnologies...), les capacités d'invention des algorithmes génétiques.

Il est également impossible de prévoir a priori les conséquences de l'apparition de ces automates mixtes dans la compétition darwinienne entre systèmes. La seule chose prévisible sans grands risques de se tromper est que le rythme et les conséquences du fonctionnement de la machine à inventer terrestre globale seront prodigieusement bouleversés.

Observons que la question fréquemment posée : les hommes seront-ils capables de contrôler ces évolutions (sous-entendu sans doute, en sauvegardant les valeurs de l'humanisme actuel) n'a  guère de sens. Les hommes co-évolueront en parallèle avec les nouvelles générations d'automates. La question que l'on peut se poser par contre est : que deviendront ceux qui, hommes ou organismes, ne seront pas associés à ces nouveaux ensembles cybiontes, ou auront été exclus délibérément par eux? Seront-ils condamnés à les affronter dans une compétition darwinienne où ils risquent de ne pas avoir beaucoup d'atouts? Disparaîtront-ils progressivement comme d'innombrables espèces au cours de l'évolution? Se transformeront-ils en quelque chose de nouveau totalement imprévisible aujourd'hui ?

Il faudrait par ailleurs se demander si les systèmes intelligents et conscients du futur proche, de type cybionte, seront ou non capables de piloter l'évolution au profit des valeurs scientifiques, morales et autres qu'ils se seront données à l'époque. La réponse affirmative n'est pas garantie. Il pourra survenir, suite à des erreurs infimes d'un pilotage supposé intelligent, prenant des proportions chaotiques en milieux instables, des catastrophes amenant les systèmes complexes, sinon la vie, à disparaître de la terre.

Nous pouvons espérer en fait que la transition vers de nouveaux ensembles cybiontes se fera en respectant et intégrant toutes les autonomies - c'est-à-dire, si l'on peut dire, en respectant les valeurs de la démocratie. Le propre d'un système intelligent moderne n'est-il pas l'intelligence répartie, consistant à donner des ressources d'information et de décision aux échelons et cellules de la base, jusqu'ici subordonnés à des pouvoirs centralisés fonctionnant sur un mode automatique primaire ?

A côté du cybionte associant l'homme et la machine, l'on trouve déjà, et l'on trouvera de plus en plus, d'innombrables variétés d'associations entre l'animal et la machine (sans exclure d'ailleurs nécessairement ni l'homme, ni, à l'autre bout, l'organisme monocellulaire). Nous employons ici le terme de cybionte animalien ou, à l'échelle cellulaire, de biopuces. De tels cybiontes, où se conjugueront les apports croisés de l'électronique et de la génétique, soulèveront moins de réticences éthiques que les cybiontes humains. Mais leurs performances en matière d'intelligence seront, en principe, plus réduites.

*par cybionte on désigne une association, selon des proportions variables, et sous toutes formes imaginables, entre des êtres vivants et des automates-machines. Le terme n'est pas à confondre exactement avec celui de cyborg. Aujourd'hui, il existe toute une mode artistique ou culturelle, dans la suite du body-art, visant à transformer l'individu en automate ou pseudo-automate, y compris par des implants. L'on obtient des cyborgs. Le phénomène est moins superficiel qu'il peut apparaître. Il montre la facilité avec laquelle les nouvelles générations se glisseront , notamment par l'art et les jeux du virtuel, dans le dialogue avec les automates. A signaler aussi dans cette direction le succès des travaux sur l' "artificial life" où se retrouvent parfois les excès du communautarisme naïf à l'américaine : nous serions entourés d'une nature artificielle vivant d'une vie propre (robots, virus informatiques, ou autres "animés") avec laquelle nous devons coexister pacifiquement.