Archives Feuilleton/ Nouvelles: - Rob et Tod - Un automate conscient sur Mars Suite... Essai - Le paradigme de l'Automate ou le dialogue d'Alain et Bernard Suite...

31 Mai 2001
Jean-Paul Baquiast
AUTEUR

Le paradigme de l'automate ou le dialogue d'Alain et Bernard

Chapitre 4, section  3 : générateurs de consciences artificielles

Avant de lire ce feuilleton, il est conseillé au lecteur de se reporter à nos éléments de définition
NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.

Episode précédent

Bernard

Nous arrivons à la fin de nos entretiens. Il faut essayer de commencer à conclure, au moins provisoirement. Nous constatons qu'il y a des produits de l'évolution, suite à un certain nombre de sélections au hasard, qui semblent avoir acquis la possibilité d'orienter partiellement les mutations-sélections à venir dans le sens d'une idée qu'ils se font de leurs intérêts.

Alain

Ces produits de l'évolution, ce sont les humains, je suppose.

Bernard

Oui, mais pas tous les humains. Beaucoup d'humains restent encore pratiquement inconscients de l'existence et des modalités de l'évolution qu'ils subissent, comme de leurs possibilités d'action pour tenter de sélectionner les solutions optimum.

Alain

Acquérir la possibilité d'orienter partiellement les mutations-sélections, pour reprendre ta phrase, signifie pour ces humains, je suppose, 1. disposer d'une capacité, devenue innée ou restée "culturelle", de générer des représentations de soi-même dans son environnement, 2. de simuler des scénarios de survie compte-tenu des modélisations que l'on se fait des changements possibles de cet environnement et 3. de se fixer des critères de sélection des événements supposés devoir se produire, afin de favoriser, si possible, la réalisation de ceux paraissant les mieux aptes à optimiser leurs chances d'adaptation.

Bernard

C'est tout à fait cela. Les humains sont devenus des machines organisées par la sélection pour anticiper l'avenir de façon systématique, et prévoir à l'avance les meilleures réponses à apporter aux événements de cet avenir. Ce n'est rien d'autre finalement que le comportement, par exemple, d'un prédateur en chasse. Mais le théâtre de l'anticipation est chez l'homme considérablement élargi dans le temps et dans l'espace, compte-tenu des possibilités de modélisation offerte par le cerveau et par les constructions langagières. De plus, la représentation du soi dans son environnement, que nous pouvons appeler la conscience, est évidemment plus cohérente et forte chez l'homme que chez l'animal.

Mais il faut ajouter autre chose. Les humains ont vite réalisé, suite à des expériences malheureuses, le caractère fragile des prévisions qu'ils peuvent faire relativement au futur, et l'inadéquation de beaucoup de mesures d'adaptation envisagées a priori. La machine à anticiper inscrite dans leur patrimoine génético-culturel s'est donc perfectionnée, toujours par sélection a posteriori, au moins chez les plus astucieux d'entre eux. Elle s'est progressivement transformée en machine à inventer, au sens où nous l'entendions précédemment. Ceci veut dire que les simulations bien faites s'ouvrent dorénavant très largement à l'inattendu, à l'aléatoire, de façon à ne pas être enfermées dans des cadres fixés à l'avance qui laisseraient échapper une partie de la réalité à venir.

Alain

Il faut ajouter que ces processus de prévision-anticipation s'appuient dorénavant aussi sur les ressources en information des réseaux scientifiques, économiques, politiques montés par les grands organismes.

Bernard

Oui. Ils utilisent également les moyens de l'informatique et de l'intelligence artificielle, comme nous l'avons constaté mille fois dans nos entretiens.

Alain

Sur ce plan, ne faudrait-il pas maintenant parler non plus d'intelligence artificielle mais de conscience artificielle, si l'on voulait vraiment que la prévision du futur fasse un véritable bond qualitatif ?

Bernard

Tu as raison. Lorsque nous pourrons disposer d'automates capables d'avoir conscience d'eux-mêmes, fut-ce de façon approchée, et de calculer des stratégies adaptatives, nous pourrons trouver en eux des auxiliaires - ou des partenaires - précieux pour inventer les meilleures solutions de survie.

Alain

Des partenaires ou des rivaux ?

Bernard

Cette question, qui sera un jour une vraie question, ne se résoudra qu'en fonction des solutions que nous adopterons pour développer des automates conscients. Si certaines groupes humains en font des outils de conquête à leur service, il est à craindre effectivement que ces outils se retournent contre eux, et contre toute l'espèce humaine le cas échéant. Mais si la conscience artificielle est développée de façon démocratique, et amicale vis-à-vis des produits obtenus, le pire n'est pas à craindre.

Alain

En t'écoutant, je me dis que la meilleure façon de conclure nos entretiens serait de proposer quelques pistes pour le développement d'une conscience artificielle. Il faudrait que celle-ci travaille dans un environnement qui soit familier, afin que chacun puisse suivre les développements d'un tel projet.

Bernard

Tu as raison. Il faudrait effectivement qu'un projet de conscience artificielle se déroule dans un domaine concret. Sinon, on ne voit pas de quoi l'automate envisagé pourrait prendre conscience. Si c'était un domaine que nous connaissons bien, comme par exemple celui du monde économique et social, tel qu'il s'exprime sur Internet, nous pourrions effectivement préciser les besoins à satisfaire, et les moyens à mettre en œuvre.

Alain

Comment verrais-tu un tel projet ?

Bernard

A première vue, je pense qu'il faudrait essayer de réaliser un automate qui aiderait un organisme quelconque, par exemple une administration, à prendre de bonnes décisions. Cet automate ne serait pas seulement doté d'intelligence artificielle, mais aussi de conscience artificielle. En d'autres termes, au lieu de servir de calculateur passif aux gens avec qui il travaillerait, il pourrait si l'on peut dire se mettre dans la peau de l'un d'entre eux, et se joindre de façon active au groupe des décideurs. Il se comporterait comme un homme, avec sa personnalité, son imagination, sa sensibilité, mais aussi bien sûr son intelligence…

Alain

Il pourrait subir victorieusement le test de Turing : les hommes avec qui il travaillerait finiraient par oublier qu'il s'agit d'un automate, et le prendraient pour l'un d'entre eux.

Bernard

Oui, si bien entendu le projet aboutit.

Alain

C'est très excitant pour l'esprit, ce que tu envisages là. Mais n'est-ce pas tout à fait futuriste ?

Bernard

Sans doute un peu, mais n'oublie pas que nous avions déjà bien avancé, lors de nos discussions précédentes, relativement aux conditions nécessaires à la réalisation d'un automate intelligent. Il suffirait de rajouter à celui-ci la possibilité de se représenter lui-même, en interaction permanente avec ses entrées-sorties, pour qu'une amorce de conscience puisse s'établir.

Alain

Je veux bien, mais cela demandera un énorme travail de programmation, dans le détail - sans parler des unités de mémoire en quantités énormes qu'il faudra mettre à la disposition de l'unité centrale de l'automate.

Bernard

Attention. Je t'arrête. Tu pars sur la voie d'une programmation classique. Il s'agit d'une voie sans issue. Ce qu'il faudra envisager sera tout différent. Nous devrons faire appel à ce que l'on appelle les agents intelligents en réseau, lesquels se comportent entre eux comme des algorithmes génétiques. Ces agents entreront en compétition darwinienne les uns avec les autres, de façon à s'enrichir respectivement, de génération en génération, par les procédés de la mutation-sélection. La programmation se fera toute seule, si l'on peut dire. Sur le plan du matériel, la démarche pourrait être analogue. Il faudrait faire appel à un hardware évolutif, se configurant et se complexifiant par adaptation darwinienne aux flux faisant appel à eux…

Alain

Je ne vois pas concrètement la façon dont des agents, même "intelligents" et fonctionnant en réseau, pourraient donner naissance à des faits de conscience.

Bernard

On peut l'imaginer en se reportant à ce qui se passe dans un échange entre deux personnes, toi et moi, par exemple, qui discutons des solutions possibles à un problème donné.

Alain

Quel problème ?

Bernard

Imaginons que nous nous interrogeons sur le temps qu'il va faire demain, afin de décider si nous allons ou non annuler une fête en plein air ? Chacun d'entre nous se représente une partie du problème. Moi, par exemple, ayant regardé le ciel, et tenant vivement à ce que la fête ait lieu, je t'annonce qu'il fera beau. Toi, au contraire, qui a consulté la météo, très pessimiste, tu préfèrerais annuler la fête. La discussion nous conduira, si elle aboutit, à s'entendre sur une solution commune qui se substituera aux représentations que nous avions du problème avant la discussion. Nous pourrons dire qu'un nouvel état de conscience a été généré, a priori plus riche et mieux adapté à la résolution du problème que nos représentations partielles antérieures. En prenant d'autres informations météorologiques, par exemple, nous nous sommes persuadé qu'il ne pleuvra pas. Mais le temps sera suffisamment venteux et froid pour que nous décidions d'abriter la fête dans le préau de l'école, plutôt que la tenir sur la place du village.

Alain

Comment la mécanique aboutissant à ce nouvel état de conscience a-t-elle fonctionné ?

Bernard

J'ai commencé par afficher, au travers du langage, une solution construite à partir de la représentation que je me faisais du problème et des choix possibles (tu remarques que je reprends les formulations du livre de Jean-Louis Dessalles*, relativement au langage afficheur). J'ai pour préparer l'affichage de cette solution, fait appel à toutes les données dont je disposais en mémoire, données de type rationnel, mais aussi résultats d'expériences personnelles et sans doute aussi de réactions affectives. L'hypothèse de devoir annuler la fête me contrarie en effet vivement, car mes enfants s'en faisaient une joie. Nous dirons que ces données étaient "conscientes", ou susceptibles de prise de conscience, traitement et transmission par le langage, dans la mesure où elles étaient mémorisées dans des registres de mon cerveau permettant leur mobilisation immédiate. En informatique, on dira qu'il s'agissait de données compatibles, ou écrites selon des formats permettant l'interopérabilité. D'autres données, sur la même question, figuraient certainement dans ma tête, mais dans des registres relevant de l'inconscient (peut-être espérais-je vaguement voir à cette fête une personne qui m'intéresse, sans que je veuille me l'avouer…).

Alain

Je vois, je vois…

Bernard

C'est un exemple, ne l'oublie pas, que nous développons. Je ne te raconte pas ma vraie vie… De toutes façons, comme ces données inconscientes n'étaient pas mobilisables au profit de l'échange avec toi (mon moi conscient refusait d'en tenir compte), elles ne pouvaient être mentionnées dans la conversation. Elles n'étaient pas, si tu préfères, accessibles au compilateur responsable de mon expression langagière.

Ceci étant, l'ensemble du message que j'ai affiché à ton intention a pénétré ton cerveau et est entré en compétition darwinienne, au sein de celui-ci, avec la solution que tu avais commencé à imaginer, en utilisant tes propres données (tu avais consulté le service météo), ton expérience et ton affectivité. Il n'y a rien que tu détestes davantage que les fêtes ratées. Tu préfères de beaucoup reporter la fête à une date ou le temps sera plus fiable.

Alain

Oui, mais que se passe-t-il, dans la mesure où la solution que j'avais formulée dans ma tête n'est pas compatible avec la tienne?. Tu parles de compétition darwinienne entre nos deux solutions. Cela veut dire quoi ?

Bernard

Cela veut dire qu'un échange compétitif s'est instauré entre nous, sur le plan conversationnel, entre les algorithmes représentant nos points de vue. Tu argumentes, je rétorque, tu contre-argumentes… plusieurs générations de solutions s'affrontent, en évoluant dans la limite de ce que nous estimons être les frontières du souhaitable ? On retrouve là l'hypothèse des affichages, tests de pertinence, nouveaux affichages et nouveaux tests qui sont à la base des conversations langagières, selon les travaux de Jean -Louis Dessalles. Dans l'hypothèse favorable, à un certain moment de la discussion, nos deux points de vue se recouvrent, je dirais volontiers qu'ils se mettent en résonance, et nous tombons d'accord sur une solution qui nous convient à tous les deux, tout en étant compatible avec les diverses données que nous avons mobilisées en appui de nos thèses respectives. Le point important, sur lequel il faut insister, c'est que l'ensemble de la discussion, comme l'adoption du résultat final, ont été placés sous le signe de la compétition darwinienne, avec mutation-sélection des différentes générations d'arguments, et émergence du plus apte, lequel a représenté la solution conjointement adoptée par toi et moi au terme de notre discussion.

Rien ne garantit que cette solution sera la meilleure, ni la seule possible. Il s'agira seulement de celle qui aura émergé, au terme d'un certain nombre d'échanges provoquant la mutation des arguments et la sélection de nouvelles générations d'arguments. On se retrouve là dans la problématique de l'utilisation des algorithmes génétiques. L'algorithme final est celui qui répond le mieux à la question posée, dans le champ des possibles cerné par les critères de sélection initiaux.

Le générateur d'un nouvel état de conscience a donc fonctionné comme une mécanique simple permettant de sélectionner des solutions nouvelles aussi adaptées que possible aux problèmes rencontrés. On peut aussi dire qu'il s'agit d'une machine à inventer des solutions nouvelles adaptées. Ces solutions, reprises dans la vraie vie, seront à leur tour retenues, rejetées ou modifiées par l'expérience concrète, ce qui entraînera de nouveaux échanges entre toi et moi.

Alain

On peut d'ailleurs observer que c'est le même phénomène qui se produit au sein de la conscience d'un individu isolé. Comme l'a bien montré Daniel Dennett*, que nous avons évoqué précédemment, c'est le conflit darwinien permanent entre contenus de conscience liés à des sous- registres du cerveau et à des référentiels informationnels propres à ces sous-registres, qui produit chez un individu donné l'émergence, à tous moments, d'un état de conscience et le cas échéant d'une verbalisation unique.

Bernard

Tu as parfaitement raison. Dans ce cas d'ailleurs, il serait erroné de penser que l'émergence de tel état de conscience chez un individu isolé résulte uniquement d'un conflit darwinien entre les contenus de ses divers sous-registres. C'est le plus souvent par interaction avec le milieu social, autrement dit par l'importation permanente d'entrées venues de l'extérieur, que se modifient les contenus de ces sous-registres.

Alain

Oui, mais je ne vois pas l'application de tout ceci à la possibilité de générer des faits de conscience chez un automate…

Bernard

Si. Il serait possible de transposer un tel mécanisme, vieux comme l'histoire du langage dans l'espèce humaine, à la fabrication d'un automate conscient. Il faudrait évidemment que nous disposions d'une machine déjà très perfectionnée, et surtout très "informée", c'est à dire capable d'accéder à des références et données aussi nombreuses que possibles, mémorisées dans son unité centrale ou accessibles au travers de réseaux tels qu'Internet, grâce à des interfaces standardisées d'échange, des moteurs de recherche performants, etc.

Il faudrait aussi que cette machine ait vécu une histoire lui ayant dessiné un profil donné, voire des intentions données, justifiant son appétit pour la survie compétitive.

Alain

Ceci peut-il être programmé ?

Bernard

Il ne s'agit pas de programmation au sens propre du terme, mais de la capacité à muter jusqu'à trouver par essais et erreurs la solution la mieux adaptée. En fait, la machine sera constituée, non d'un système unique, mais de plusieurs dizaines ou centaines d'agents que l'on pourra appeler des agents génétiques, prêts à entrer en compétition entre eux.

Imaginons maintenant le processus qui permettra à cet ensemble d'automates d'acquérir des états de conscience. Nous pourrions organiser un dialogue entre machines analogue à la situation créée par une discussion entre deux personnes. Mais ce dialogue risque d'errer longtemps avant qu'apparaissent des états de conscience reconnaissables par nous comme tels. La situation la plus simple, bien qu'offrant des ouvertures à terme plus limitées, consistera à mettre en place un dialogue entre une personne et une machine.

Créons donc une discussion entre toi, personne physique et la machine. Là encore, il s'agira de résoudre en commun un problème pour lequel chacun des interlocuteurs ne dispose que d'informations et de solutions partielles. Tu feras appel, comme précédemment, aux données de ton expérience. La machine fera de même, en s'appuyant sur sa propre mémoire, mais aussi sur des ressources qu'elle pourra aller chercher dans des milliers de documents et informations disponibles sur le web. Elle pourra également, suite à des sélections précédentes, réagir à des états internes relevant de ce que l'on appellerait de la sensibilité, des affects. Dans ce cas, elle choisira plutôt telles informations que d'autres, pour répondre à telle question.

Les données et algorithmes échangés, comme les méthodes par lesquelles ils entreront en compétition, ne changeront pas radicalement par rapport à ce qu'ils étaient dans le cas précédent. Une solution finira par s'imposer, qui, en ce qui concerne l'automate, représentera un enrichissement dans l'acquis disponible pour de nouvelles confrontations. Il n'est pas exclu, en contrepartie, que les informations ou arguments mobilisés par lui dans la discussion, enrichissent à leur tour tes contenus de conscience. Au bout de nombreux échanges sur le même mode, on aboutira à ce qui serait dans d'autres circonstances une auto-formation croisée entre deux partenaires, améliorant la pertinence de l'image qu'ils se font de leur environnement et celle de leur soi dans cet environnement. Le cas échéant des coopérations ou symbioses augmentant leurs capacités d'adaptation à des événements non prévus pourront émerger des échanges.

Alain

Peux-tu préciser ce que tu entends par une machine constituée d'un réseau d'agents en compétition interne…

Bernard

La machine avec laquelle, dans notre hypothèse, tu seras amené à discuter sera (comme d'ailleurs ton propre cerveau, souviens-toi de ce que nous avons dit de la conscience telle que vue par Dennett), constituée de nombreux sous-ensembles éduqués et informés au cours de précédents processus d'échange avec des humains. Ces échanges auront eux-mêmes été très différents quant à leurs modalités et contenus, afin d'introduire de la complexité dans la machine. Chacun de ces sous-ensembles aura donc un profil et des références informationnelles différentes. Afin de donner à la machine la possibilité de disposer d'états de conscience reposant sur la confrontation darwinienne entre les contenus de ses sous-ensembles, l'architecture d'ensemble de la machine devra être conçue de telle sorte que ces sous-ensembles entrent en compétition afin qu'elle puisse produire des réponses de synthèses sélectionnées à partir des meilleures solutions offertes par ses sous-ensembles. Dans cette optique, la machine se présentera comme un réseau multi-agents dont les capacités croisées de dialogue et d'enrichissement avec la personne physique s'amélioreront sans cesse. Il s'agira finalement d'un générateur d'idées artificielles, qui, dans certains cas, pourront être appelées des états de conscience artificielle, dans la mesure où elles incluront la prise en considération de la représentation de la machine par elle-même.

Ce schéma est évidemment très simplifié. On conçoit bien que la mise en place et la résolution de conflits au sein d'automates pouvant comporter des milliers de sous-ensembles ou agents poseront de difficiles questions informatiques, théoriques mais surtout pratiques. Cependant, l'ensemble du schéma pourra rester simple, si l'on s'efforce de rester proche des conditions du dialogue entre personnes physiques sur des sujets triviaux, par l'intermédiaire des processus du langage et de l'acquisition de valeurs ajoutées de connaissance au sein des systèmes d'échanges courants que nous pratiquons quotidiennement, avec des hommes ou même avec des animaux.

Alain

L'apprentissage puis ultérieurement l'entrée en service d'un automate conscient tel que tu le définis supposera la mise en place d'une structure d'accueil favorable. L'automate devra s'éduquer dans un ensemble collectif humain aussi intelligent que possible.

Bernard

Oui. Rappelons-nous ce que nous avons dit concernant l'apparition de la conscience chez les animaux supérieurs. La neurologie moderne propose aujourd'hui des modèles intéressants de ce que sont des systèmes intelligents et/ou conscients dans la nature. Réutiliser ces modèles supposera de développer le schéma du proto-soi présenté par Antonio Damasio dans ses travaux sur l'émergence de la conscience chez les êtres vivants, ainsi que celui des liens ré-entrants analysés par Gérald Edelman. Ces schémas peuvent déjà être utilisés pour simuler à petite échelle des comportements pré-conscients sur des machines automates. Rien n'empêchera de tenter la même chose en travaillant sur des groupes sociaux comportant des automates conscients libres de leurs propres décisions, comme le seront leurs partenaires humains, eux-mêmes considérés comme des machines plus ou moins automatiques dont l'on s'efforcera d'améliorer les capacités à l'intelligence et à la conscience. De proche en proche, les mêmes solutions pourront être étendues, avec il est vrai des difficultés croissantes, à des systèmes sociaux, administrations, entreprises, de plus grande taille.

Alain

Que pourraient être les caractères d'une organisation dotée de capacités de conscience étendues, celle qui sera la famille d'accueil de notre bébé automate conscient….?

Bernard

J'aime bien ton image. Cette famille devra, par exemple,

- disposer de sous-systèmes aussi nombreux, aussi fonctionnellement différents, aussi décentralisés que possible. L'unité et les hiérarchies verticales sont à exclure dans l'architecture de base.

- relier ces sous-systèmes par des liens fonctionnels ré-entrants aussi nombreux que possible. Par lien ré-entrant, l'on désignera en l'espèce des modalités d'informer en temps réel chaque sous-système de l'activité de tous les autres. Ce sont eux qui assureront la cohésion nécessaire, dans une architecture réticulaire en évolution permanente.

- organiser des plans et flux constamment renouvelés de méta-représentations permettant d'élaborer de proche en proche des représentations de plus en plus complètes des activités de l'ensemble, chaque niveau subordonné informant le niveau supérieur.

- assurer si nécessaire des réponses coordonnées des systèmes effecteurs (des moyens d'action dont dispose l'organisme) au service des stratégies s'étant imposées après compétition interne comme prioritaires ou dominantes.

Alain

Je suppose qu'à cela, il conviendra d'ajouter des recettes plus classiques: multiplier les facilités d'acquisition de nouveaux savoirs et compétences, garantir la plus grande souplesse d'invention et de réinvention dans tous les domaines structurants, comme les règles de droit, les habitudes comportementales, les contenus cognitifs et même les valeurs. Il conviendra par ailleurs et dans le même but d'ouvrir le plus largement possible le groupe aux influences et exemples extérieurs, dès lors que la consistance de ses liens internes sera une garantie de maintien de ses principaux paramètres internes (homéostasie).

Bernard

C'est exact. L'intercommunication au sein du groupe sera considérée comme prioritaire. Ceci signifiera qu'il faudra multiplier les moyens et réseaux d'échanges entre individus et petits groupes, avec des trafics montants et descendants s'auto-organisant à la demande (émission-réception de messages, dialogues aussi contradictoires que possible, saisie et rediffusion d'indices manifestant l'état instantané du système, aides à la mémorisation et à la recherche de contenus pertinents, etc.)

Les structures et procédures, les sources diverses d'information, les stratégies de l'organisation doivent être rendues clairement accessibles à tous les membres par des moyens faisant appel aux techniques de la réalité virtuelle et des sciences cognitives. Chacun doit pouvoir, non seulement avoir accès aux grandes et petites informations concernant la vie de l'organisation et son environnement, mais aussi formuler ses propres propositions, et les voir discuter.

Les méthodes permettant d'encourager l'innovation, sur le mode de l'inventivité anarchique, seront à encourager. La majorité des membres risquant de rester conservatrice, il conviendra d'identifier et d'encourager des "champions" de l'invention, à qui seront faites des conditions particulièrement favorables pour mener toutes expérimentations utiles.

Alain

Rappelons-nous que toutes ces conditions ne concerneront que l"élaboration" d'un automate conscient par interfaçage de cet automate avec des hommes. Plus tard, quand on voudra s'affranchir des limitations propres aux groupes humains, il faudra envisager que des automates s'éduquent entre eux, dans des couples ou groupes ne comportant pas d'humains;

Bernard

Oui, mais alors ce sera un projet d'une toute autre ambition.

Auteurs à consulter
Pierre Bergé, Yves Pommeau, Monique Dubois-Gance, Des rythmes au chaos Editions, Odile Jacob, 1994
Alain Cardon, Conscience artificielle et systèmes adaptatifs, Eyrolles, 1999
Antonio Damasio, Le sentiment même de soi, Editions Odile Jacob, 1999
Daniel C. Dennett, La conscience expliquée, Editions Odile Jacob, 1991-1993
Jean-Louis Dessalles, L'ordinateur génétique, Hermès 1996, Aux origines du langage, Hermès, 2000
Gerald Edelman, Comment la matière devient conscience, Odile Jacob, 2000

La suite au prochain numéro. Conclusion

Automates Intelligents © 2001