| |
Mars
2001
Jean-Paul Baquiast
AUTEUR
Le paradigme de l'automate ou le dialogue d'Alain et Bernard
Chapitre 3 Evolution darwinienne et conscience
de soi
Les machines à inventer autoréferrantes
NB: Les * renvoient aux références bibiographiques
fournies en fin de texte. Nous nous sommes limités à
l'indispensable.
Episode précédent
Définition:
La conscience
|
Résumé du Chapitre 3
Nous avons vu au chapitre précédent
que, dans la logique de l'évolution darwinienne,
deux principaux mécanismes biologiques générateurs
d'innovation s'étaient mis en place: les systèmes
génétiques et les systèmes nerveux.
Ces derniers servent de support à des représentations
du monde qui, au sein de certaines espèces, et sous
diverses formes symboliques, peuvent s'organiser en panoramas
très larges, mémorisant le passé et
permettant, à partir du présent, de simuler
le futur. Au niveau des individus, et chez l'espèce
humaine, nous pourrons appeler cela la conscience. Mais
il ne faut pas oublier que ces constructions ne seraient
pas possibles, sur le plan individuel, si elles n'avaient
pas été forgées par les échanges
sociaux, prenant notamment la forme des langages. Or évoquer
les langages n'est que de peu d'intérêt si
l'on n'étudie pas tout de suite la façon dont
les symboles sous-jacents aux langages circulent d'individus
à individus au travers des groupes sociaux. Chez
l'homme, très tôt dans l'histoire, les premiers
groupes se sont organisés, sous l'effet d'une compétition
darwinienne permanente, en structures sociales de plus en
plus lourdes. Ces dernières à leur tour ont
généré des constructions symboliques
de plus en plus ambitieuses, dont les techno-sciences sont
des avatars récents. Evoquer les structures sociales
et les techno-sciences conduit obligatoirement à
évaluer le poids qu'elles font peser sur la formation
et le fonctionnement des consciences individuelles. Ceci
pose la question des Pouvoirs. Une question plus difficile
concerne l'existence éventuelle de formes de conscience
sociale distinctes, par leur nature et leurs contenus, des
consciences individuelles.
En bonne méthode, il ne faudrait pas analyser séparément
les langages, la conscience individuelle et les structures
ou super-structures sociales. Il s'agit en effet d'un découpage
un peu artificiel dans un mouvement d'émergence dont
les composantes se conditionnent les unes les autres. On
a dit fort justement qu'il ne peut y avoir de conscience,
au moins sous forme étendue, sans langage, et pas
de langage pertinent sans structure sociale lui attribuant
des fonctionnalités et des contenus.
Ceci dit, il est impossible, pour la clarté, de
ne pas procéder à ces découpages, dès
lors que l'on ne perd jamais de vue les relations croisées
entre éléments. Un autre facteur à
ne pas perdre de vue est le fait que si ces attributs, qui
paraissent distinguer définitivement l'humanité
récente de l'animal, sont apparus et surtout se sont
développés avec succès, c'est qu'ils
offraient des avantages sélectifs pour la compétition
darwinienne. Ces avantages dureront-ils toujours, certainement
pas, et c'est précisément là une des
questions qu'il faudra aborder.
Le cerveau de l'homme moderne s'est complexifié
sous l'effet de causes encore mal élucidées,
parmi lesquelles on place généralement en
premier le développement des activités à
base d'échanges symboliques entre individus. Les
symboles ainsi échangés résultaient
d'une mise en forme facilement "transmissible" des représentations
universellement répandues dans le monde de la cognition
animale. L'échange du contenu des représentations
ne se fait chez l'animal que de façon rigide, dans
le meilleur des cas par des proto-langages et la production
de comportements susceptibles d'être imités.
Les possibilités d'innovation par manipulation de
symboles n'ont bénéficié en fait qu'aux
hominiens, leur apportant en retour des capacités
de modifier leur environnement sans proportion avec leurs
modestes capacités physiques. Nous pourrons parler
là, en restant fidèle à notre terminologie,
d'une machine à inventer de 3e type, dont l'explosion
récente, il n'y a guère que 500 ans, sous
la forme des techno-sciences, est en train de bouleverser
presque tous les niveaux du biotope.
Il est donc logique de commencer l'analyse de ce 3e type
de machine à inventer par l'examen des symboles,
servant eux-mêmes de matière première
aux échanges langagiers. Traditionnellement, c'est
la linguistique qui propose les outils d'analyse nécessaire.
Mais la linguistique seule risque de nous entraîner
dans des débats difficiles, sinon insolubles, concernant
l'apparition du langage, la diversification des langues,
les rapports de celles-ci avec les autres activités
sociales. Peut-être vaudra-t-il mieux, sans rejeter
la linguistique, élargir l'approche à ce que
Richard Dawkins a proposé d'appeler des mèmes.
Les mèmes pourront alors prendre la forme de comportements
codifiés utilisés pour communiquer, d'outils
échangés (un chopper ou un biface mériteront
sûrement d'être considérés comme
des mèmes) et enfin des mots, des phrases, et des
"idées".
Il n'est pas mauvais en ce cas de se donner une description
commune à l'ensemble des mèmes. Ceux-ci sont
des ensembles mixtes comportant: - une base neuronale d'émission
ou de réception identifiable à titre permanent
ou passager chez les individus associés à
l'échange - un support matériel échangé
(outils, sons, gestes) - et enfin un réseau d'échange,
de plus en plus diffus et technologique, représentant
le milieu dans lequel le mème se propage. Les mèmes
se présentent alors comme des entités vivantes,
ou tout au moins animés d'une forme de vie "artificielle",
aujourd'hui simulable très facilement sur ordinateur.
On peut les dire égoïstes, en ce sens qu'ils
naissent et se propagent en fonction des règles du
hasard-sélection bien connues en matière biologique.
Ils le font sans intégrer a priori dans leurs contraintes
de développement la survie des différents
individus ou groupes qui leurs servent de lieu de naissance,
qui les hébergent et qui les propagent. Il ne faut
évidemment pas, on le voit, réduire le concept
de mème à l'équivalent d'"idées
toutes faites"
La mémétique, ou science des mèmes,
reste encore loin d'être une science, vu le caractère
multiforme et fluctuant des objets de son étude.
Un point important à préciser est que les
mèmes s'enracinent dans les représentations
qui constituent la base de la cognitique animale, et qui
ne sont pas immédiatement communicables. En ce sens,
les mèmes sont plus "primitifs" que les idées
rationnelles résultant de nombreux traitements de
type scientifique. La mémétique est rendue
particulièrement complexe par le fait que les mèmes
ne sont pas les seuls acteurs de la socialisation. Il faut
aussi considérer les individus dans le cerveau desquels
ils prennent naissance, et surtout les groupes sociaux qui
sont à la fois produits de leur compétition
permanente, et grands faiseurs de mèmes.
Après les mèmes et plus généralement
le langage, il sera donc nécessaire d'examiner la
conscience. Logiquement, il serait préférable
de poser d'abord la question de la conscience collective,
puisque la conscience individuelle s'est, semble-t-il, développée
sur la base des échanges de mèmes au sein
des premiers groupes sociaux. Mais on ne pourrait pas comprendre
ce passage à la conscience collective puis individuelle,
sans examiner les architectures neuronales de toute conscience,
que l'on retrouve évidemment chez l'animal, générant
certaines formes de pré-conscience.
Les représentations et les symboles qui correspondent
aux mèmes et s'échangent par leur biais d'organismes
à organismes désignent en général
le monde extérieur. Mais il ne s'agit pas d'un hypothétique
monde en soi. Il s'agit du monde tel qu'il est perçu
par les organes sensoriels et effecteurs des organismes.
En fait c'est l'organisme qui sert de médiateur à
l'échange des représentations: celui qui décrit
le monde et celui à qui s'adresse cette description.
De ce fait peuvent apparaître assez vite, parmi
les symboles échangés, notamment sous forme
de mèmes, des symboles désignant les organismes
eux-mêmes, locuteurs et interlocuteurs. Ainsi peut
se constituer la conscience de soi. La conscience de soi,
que l'on appelle généralement aussi auto-référence,
se présente comme un avantage compétitif majeur,
en ce sens qu'elle donne à l'organisme conscient
la possibilité d'agréger et mobiliser au profit
de sa survie de nombreuses informations endogènes
et exogènes qui restaient auparavant confinées
dans les sous-systèmes de production.
La conscience de soi (que nous désignerons plus
simplement dorénavant du terme de conscience*) est
un produit de l'évolution comme les autres: évolution
génétique qui a permis la mise en place des
systèmes nerveux et des cerveaux, évolution
des comportements et des contenus de langages. La conscience
de l'homme moderne a intégré le fait qu'à
la source de son fonctionnement se trouve une machine, le
cerveau, qu'il est devenu prioritaire d'essayer d'analyser
et de comprendre, voire de simuler sur ordinateur. Comme
cette machine cérébrale est l'apanage du corps
individuel, il en est résulté que c'est d'abord
autour de la conscience et de la pensée individuelles,
que se sont centrées les études relatives
à la conscience en général. Ceci ne
fut pas sans danger, conduisant à valoriser de façon
irréaliste le mythe (ou mème) de l'individu
pensant.
Aussi bien, terminerons-nous ce chapitre en examinant
ce que l'on peut appeler la conscience collective, ou la
façon dont les groupes deviennent auto-référents.
On sait que, même si le cerveau est un organe individuel,
il ne peut y avoir de conscience et de pensée individuelle
en dehors des échanges avec les autres individus
au sein des groupes sociaux. C'est vrai pour les animaux,
mais l'est encore plus chez l'homme, puisque c'est par la
coopération ou la compétition entre individus,
à travers les langages, que se sont construites les
vastes méga-machines techno-scientifiques modifiant
profondément l'environnement terrestre.
Or les sociétés ou groupes acquièrent,
comme les individus, des aptitudes plus ou moins étendues
à la conscience de soi et à l'autoréférence.
Il est nécessaire de les étudier au même
titre que les faits de conscience individuels et leurs supports.
Rappelons que chacun de ces ordres de systèmes
: langages et mèmes, conscience individuelle, conscience
collective, se présente comme une machine à
inventer dans le schéma darwinien: réplication,
mutation, sélection. Par ailleurs, aucun d'eux n'est
évidemment détachable de ses soubassements
neuronaux, génétiques et biologiques (au sens
des constituants bio-chimiques des cellules et de leurs
composants). En aucun cas, notamment, l'étude de
la conscience et de ses productions ne doit faire oublier
que l'individu humain, comme le groupe humain, obéissent
encore pour l'essentiel de leurs comportements hérités
des espèces animales dont les grandes lignes sont
fixées par l'héritage génétique.
Ajoutons que rien n'interdit de penser que les fonctions
spécifiques et originales de l'autoréférence,
ou de la conscience, ne puissent prochainement être
implantées ou plutôt retrouvées dans
des automates intelligents, en s'affranchissant à
l'occasion de certaines contraintes héritées
de l'évolution de l'espèce humaine, qui limitent
la portée de la conscience. L'esprit humain, et les
processus conscients, bénéficieront en retour
des échanges avec ces artefacts. Le couplage aux
cerveaux animaux et humains de machines disposant de formes
originales de développement vers l'intelligence laisse
entrevoir la perspective de systèmes mixtes ou cybiontes,
dont rien a priori ne parait devoir limiter les capacités
d'intelligence et de conscience réfléchie.
Sur le plan notamment de la connaissance dite rationnelle
que les hommes peuvent se donner du monde, la conscience,
individuelle ou collective, constitue encore, et constituera
sans doute longtemps, sinon toujours, un vecteur indispensable.
Approfondir voire améliorer et étendre son
fonctionnement, en conjuguant les progrès réciproques
de l'analyse des cerveaux et des processus cognitifs collectifs,
d'une part, l'ajout de prothèses électroniques
de plus en plus performantes, d'autre part, modifiera progressivement,
non seulement notre conception de l'univers, mais la façon
dont celui-ci évoluera, avec ou sans les hommes.
La civilisation de demain se trouvera peut-être alors,
selon la belle image de Gérald Edelman, en état
de "dénouer le nœud du monde".
*Cette acception du mot conscience n'a évidemment
rien à voir avec ce que la morale populaire désigne
par ce même terme, conscience du bien et du mal (voir
éléments de définition).
|
Chapitre 3, section 2
: La conscience individuelle
Bernard
Nous avons vu dans notre dernier entretien
(représentations, mèmes, langages) comment des échanges
structurés entre hominiens avaient pu donner naissance aux
premières formes d'auto-référence, c'est-à-dire
de conscience. Celles-ci ont très certainement d'abord bénéficié
au groupe. C'est l'individu en groupe qui s'est identifié
le premier à lui-même - ou plutôt c'est de l'existence
du groupe auquel il appartenait que l'individu a pris conscience
en premier. Mais très vite certains individus ont du prendre
conscience d'eux-mêmes en tant qu'entités séparées
du groupe, peut-être à l'occasion de séparation
accidentelle d'avec celui-ci, ou de situation d'affrontement. La
conscience de soi individuelle en a découlé.
Alain.
Aujourd'hui, lorsque l'on parle de conscience,
c'est à celle-là que l'on fait référence...
Bernard
Oui, mais ce n'est pas nécessairement
une bonne chose en termes de méthode, car l'on oublie ce
faisant qu'il n'y a pas de conscience sans interaction avec l'autre,
et plus généralement avec la culture collective. Ceci
dit, comme la conscience individuelle est un produit du cerveau
humain, et comme l'étude du cerveau et de son fonctionnement
est devenue une priorité des neurosciences modernes, il n'est
pas anormal de rattacher l'étude de la conscience à
l'étude du cerveau. De même, lorsque l'on s'efforcera
de réaliser des prototypes de conscience artificielle, la
tentation sera grande de les implanter sur des machines, plutôt
que sur des réseaux.
Alain
Rien ne nous empêche de conjuguer
les deux approches. Nous allons d'abord discuter de la conscience
individuelle...
Bernard
En nous heurtant d'ailleurs à certaines
impasses qui nous obligeront à revenir sur la conscience
de groupe. C'est tout à fait la démarche que je te
propose.
Alain
Pour bien faire, il faudrait faire des
allers et retours permanents entre individuel et collectif...C'est
bien ainsi que les choses se passent dans les sociétés
humaines. Mais pour la commodité, adoptons en effet une présentation
en deux parties: conscience individuelle et conscience collective.
Bernard
Très bien. Que peut-on dire sur la
conscience, dans l'optique qui est la nôtre, et qui consiste
à refuser le dualisme pur et simple (la conscience est une
manifestation de l'âme, et n'est pas de ce fait susceptible
d'analyse scientifique) ou l'introspection philosophique, qui conduit
à disserter sur la conscience sans se poser un instant la
question de ses bases neurologiques?
Alain
Nous avons évoqué déjà
les travaux des neurologues modernes pour essayer d'identifier dans
le système nerveux central les zones correspondantes aux
grandes fonctions présentes chez l'adulte en bonne santé
normalement socialisé. C'est sans doute de là qu'il
faut partir.
Bernard
Tu as raison. Aujourd'hui l'imagerie
cérébrale fonctionnelle offre des informations
impossibles à obtenir avant elle. Auparavant, l'étude
de l'éventuelle localisation des fonctions cérébrales
ne pouvait se faire, au moins chez l'homme, qu'à l'occasion
des accidents traumatiques entraînant atteinte du crâne
et de son contenu, ou de diverses maladies, tumeurs, embolies, diminuant
l'intégrité du cerveau.
Alain
Il ne faut pas oublier non plus, avant
l'imagerie, les études du neurone, faites au microscope ou
avec des électrodes, ayant mis en évidence la structure
microscopique du tissu nerveux, et la façon dont se transmet
l'influx. Ces études ont ouvert si je ne me trompe le domaine
immense de la connectique entre neurones, des médiateurs
chimiques et des phénomènes électriques révélant
l'état du neurone.
Bernard
Tu as tout à fait raison. Nous reviendrons
d'ailleurs sur ces problèmes d'électricité
et d'ondes cérébrales en fin de discussion. Les premières
expériences n'ont pas porté sur la partie supposée
noble du cerveau, le cortex associatif, mais sur les circuits les
plus simples, arcs réflexes reliant l'épine dorsale
aux muscles, muscles striés des membres ou muscles lisses
des organes internes. L'on s'est ensuite intéressé
aux zones, particulièrement développées parce
qu'elles étaient vitales dans la lutte pour l'évolution,
intéressant le traitement par le cerveau, d'ailleurs en plusieurs
temps et en plusieurs lieux associés, des informations provenant
des organes des sens, odorat, vision, audition, main ou pied...
Certaines localisations sont apparues, souvent d'ailleurs variables
selon les individus et le moment de l'observation. Mais les non-localisation
par redondance a également été observée
très tôt, chez des malades atteints de destructions
locales, et capables de récupérations plus ou moins
dégradées.
Analyser et reproduire la pensée
élaborée, puis la conscience est une toute autre affaire.
Les ouvrage récent d'Antonio Damasio* et de Gerald Edelman*
en fournissent d'excellents exemples. L'imagerie médicale
ne fournit encore que des images très grossières,
au regard de la finesse et de la complexité des réseaux
de neurones. Quant à l'expérimentation sur le cerveau
vivant, elle est éthiquement impossible, sauf éventuellement
chez l'animal.
Alain
Il est bien vrai que les outils dont on
dispose pour explorer le cerveau, notamment ses couches profondes,
restent encore extrêmement sommaires. Les neurologues sont
un peu comme des océanographes qui ne pourraient qu'analyser
les premiers mètres au dessous du niveau de la mer.
Bernard
De nouvelles techniques d'identification
des échanges inter-neuronaux plus sensibles et non-invasives
(n'exigeant pas la pose d'électrodes) vont sans doute apparaître,
mais nous n'en sommes pas là. Ceci dit, il ne faut pas s'imaginer
que le modèle animal n'est pas suffisant pour commencer à
comprendre ce qui se passe dans un cerveau humain. Nous verrons
que des travaux d'électroencéphalographie utilisant
des réseaux de micro-électrodes implantées
dans les zones sensorielles de lapins ont donné des résultats
permettant à des gens comme Walter Freeman* de faire des
hypothèses très intéressantes sur ...tu le
croiras ou non...le libre-arbitre chez l'homme. Il ne faut pas oublier
non plus ce qui est notre cheval de bataille intellectuel, le modèle
automate. Les artefacts logiciels ou robotiques auto-adaptatifs
ouvrent des perspectives de plus en plus fécondes. Un livre
récent comme celui d'Alain Cardon* repose tout entier sur
le pari qu'il serait désormais possible (si l'on disposait
de quelques crédits) de faire une conscience artificielle
tout à fait présentable...capable, sur certains points
au moins, de passer le fameux test de Turing...
Alain
En fait, le cerveau humain n'est plus pour
l'observateur cette boîte noire dans laquelle il s'imaginait
ne pas pouvoir entrer, tout au moins quand il s'agissait d'analyser
le moi-conscient.
Bernard
Non. Les progrès sont importants
voire foudroyants, depuis quelques années. Ils sautent aux
yeux lorsque l'on compare les travaux de Jean-Pierre Changeux*,
datant des années 1970/80, et ceux des neurologues et physiologues
d'aujourd'hui. Les approches sont aujourd'hui beaucoup plus globales.
Elles intègrent par exemple des entrées nouvelles
comme les émotions, et plus généralement l'interface
global entre le cerveau et le reste du corps. Elles prennent aussi
en compte ce que nous évoquions précédemment,
le langage, la relation avec la culture sociale. Au niveau épigénétique,
le rôle des gènes en interaction avec le milieu, est
de mieux en mieux étudié, aussi bien en ce qui concerne
la formation et la spécification du cerveau, que le fonctionnement
des parties et de l'ensemble. L'on doit enfin à des philosophes
à l'américaine, comme Daniel Dennett*, qui sont de
véritables scientifiques, plutôt que des littéraires,
des approches globales très intéressantes. Bref, la
conscience est devenue un sujet d'étude scientifique à
part entière.
Alain
Peut-on dire que la conscience est désormais
"expliquée", comme l'affirmait un peu présomptueusement
en 1991 ton cher Dennet?
Bernard
A mon avis, non. Il est certain que l'on
commence à mieux comprendre quelles sont les conditions propices
à l'émergence de la conscience dans un organisme vivant,
ou dans un automate simulant ce dernier. Mais je pense que l'on
se représente encore mal ce qui se passe dans la pointe de
la pointe de la conscience, ce dont nous croyons faire l'expérience
quotidienne: le libre-arbitre, la prise de décision dite
volontaire. Comme une décision ne peut pas être isolée
du processus de production dont elle est le résultat, il
faut bien admettre qu'il y a des formes de causalité circulaire
ou chaotique qui interviennent, dont nous n'avons pas encore le
modèle. Mais cela va sans doute venir, et plus vite peut-être
que ne le croient les scientifiques eux-mêmes.
Alain
Que pouvons-nous dire utilement sur la
conscience, pour ce qui nous concerne. Je crois qu'il faut rester
dans la logique de notre démarche: considérer que
le cerveau conscient est une machine à inventer particulièrement
puissante, apparue à un certain moment de l'évolution
chez une espèce ayant bénéficié de circonstances
favorables, et ayant donné à cette espèce des
avantages sélectifs tels que ce dispositif n'a cessé
de se renforcer, par co-évolution génétique
et culturelle.
Bernard
Tu as raison. Pour rester concret, je te
propose de voir ce que nous pourrions tirer des travaux de neurologues
modernes tels que Damasio, Edelman ou Freeman, si nous voulions
nous atteler à la réalisation d'un automate conscient.
En fait, peu de neurologues envisagent
encore la simulation du cerveau sur ordinateur. Un auteur comme
Damasio*, par exemple, prend bien garde d'indiquer que ses travaux
ne sont pas susceptibles de donner lieu à des applications
en matière d'automatique, mais c'est l'impression contraire
que j'en ai personnellement. La description qu'il donne des différentes
zones et fonctions cérébrales aboutissant à
la naissance de la conscience (chapitre 6, p. 179, notamment, de
l'édition française) esquisse le programme de réalisation
d'un automate conscient. D'importantes difficultés de type
informatique (supports, connectique, logiciels) seront à
résoudre, mais le principe de la démarche paraît
assez simple.
A partir d'un automate-machine aussi complexe
et évolué que possible, dans l'état de l'art
du moment, l'on commencera à réaliser un "proto-soi".
Le proto-soi, dit Damasio, "est une collection reliée et
temporairement cohérente de configurations neuronales qui
représentent l'état de l'organisme à de multiples
niveaux du cerveau. Nous ne sommes pas conscients du proto-soi ".
Ceci, traduit grossièrement, veut dire qu'il faudra prévoir,
dans les différentes composantes de l'ordinateur central
de l'automate, correspondant à ses différentes fonctions
sensori-motrices et de traitement de données abstraites,
des remontées d'informations donnant l'état instantané
des différents sous-systèmes, et reliées entre
elles de façon à produire des comptes-rendus synthétiques
de situation instantanées.
Alain
En t'écoutant, je me dis que cela
doit déjà exister dans des systèmes complexes
au fonctionnement sensible, comme les centrales nucléaires.
Mais l'on compte sur le cerveau de l'ingénieur de veille
pour réaliser le travail final d'intégration en temps
réel, plutôt que sur une fonction automatique qui aurait
coûté beaucoup plus cher à développer,
et dont la fiabilité n'aurait pas été garantie...
Bernard
Inutile de développer la suite,
mais la démarche sera la même lorsqu'il s'agira de
simuler (ou reproduire) le soi-central et le soi autobiographique
identifiés par Damasio. Ainsi, dit-il, "le soi-central est
inhérent au compte-rendu non verbal de second ordre qui se
produit chaque fois qu'un objet modifie le proto-soi. Nous sommes
conscients du proto-soi." Il nous suffira, pour produire le même
résultat, d'organiser des entrées d'informations susceptibles
de modifier suffisamment profondément le proto-soi de notre
prototype.
En dehors des problèmes informatiques
de plus en plus complexes à résoudre, il faudra injecter
dans notre automate conscient expérimental des quantités
phénomènales de données lui fournissant une
image du monde suffisamment riche...
Alain
Ou lui apprendre à acquérir
de façon spontanée, grâce à des processus
adaptatifs en environnement compétitif...
Bernard
Bien sûr...je vois que tu as bien
saisi la mécanique de la robotique moderne...bref il faudra
que notre automate acquière des quantités de données
simulant les sollicitations permanentes, conscientes et inconscientes,
que subit un cerveau humain. Il faudra qu'il en acquière
d'autres, organisées en scénarios, pour lui donner
une histoire et une personnalité susceptible de lui servir
de références dans la construction et la manipulation
de son soi autobiographique. Si l'on veut en effet que l'automate
soit suffisamment conscient de lui-même, pour se représenter
dans le passé et pour se projeter dans l'avenir, afin de
pouvoir donner un sens aux nouvelles entrées qu'il reçoit,
il faut l'aider à se construire une personnalité.
Même si celle-ci reste simple, cela fera beaucoup d'octets,
sous forme de concepts et images.
Alain
On pourrait imaginer que l'automate n'ait
pas à rapatrier toutes ces données dans sa mémoire
permanente, mais puisse faire appel à un réseau (tel
qu'Internet) où il trouverait le moment venu l'information
adéquate.
Bernard
Oui. Tu évoques en fait un problème
très important, auquel nous avons fait allusion: la conscience
n'est pas seulement un processus individuel, c'est aussi un processus
réparti.
Alain
Comment Edelman* voit-il la conscience
et la possibilité de la simuler sur un système automatique
intelligent?
Bernard
Edelman est plus positif que Damasio. Il
n'hésite pas à dire que des artefacts simulant la
conscience verront le jour dans les prochaines années, et
seront très utiles pour préciser les hypothèses
actuelles.
Pour lui, la conscience primaire résulte
d'un ensemble de processus qui ne peuvent s'établir que sur
des architectures cérébrales caractérisées
par la complexité, elle-même définie comme "une
synthèse optimale de spécialisation fonctionnelle
et d'intégration fonctionnelle au sein d'un système",
c'est-à-dire comportant des milliards de neurones, des millions
de cartes fonctionnelles et de groupes de neurones entrant, sortant
et réentrant... des millions aussi, selon l'expérience
du sujet, de connexions entre neurones acquises par cette expérience
et "mémorisées" pour être éventuellement
réactivées. Le tout est le produit de la sélection
- sélection génétique en ce qui concerne les
grandes structures, aires, cartes, groupes de neurones de liaison
- sélection au cours de la vie du sujet pour les connexions
spécifiques à l'individu.
L'hypothèse de la complexité
fonctionnelle n'est pas nouvelle, encore que dans cette présentation
elle devienne une condition sine qua non de l'établissement
d'un processus de conscience. De l'uniformité ou de la faible
diversité fonctionnelle ne peut émerger en effet aucune
conscience. Le point sur lequel il convient d'insister par contre
est l'intégration fonctionnelle entre sites différents,
permise par des liaisons massivement ré-entrantes, redondantes
et dégénérées (au sens mathématique)
assurées par des faisceaux ou groupes de neurones des aires
du cortex associatif (thalamo-cortical), que complètent d'autres
voies projetées vers différentes autres parties du
système sensori-moteur. Ces faisceaux ou groupes de neurones
peuvent mettre en relation en temps quasi réel (dizaines
ou centaines de millisecondes) toutes les parties du cerveau accessibles
par elles, et de ce fait susceptibles de contribuer à l'élaboration
des processus conscients. Plus il y a de sites différents,
et plus ils sont reliés entre eux par des ponts ré-entrants
et redondants à très court délai de réponse,
plus la conscience a de probabilités d'émerger.
Mais le problème de l'apparition
de la conscience primaire ne s'explique pas seulement par l'existence
de ces premiers dispositifs, et notamment par celle de groupes de
neurones de liaison. La conscience, primaire ou même évoluée,
observée de l'extérieur ou de l'intérieur du
sujet, apparaît comme un processus bien défini, dont
il faut expliquer la genèse. Elle est unitaire, cohérente
et sélective (une seule chose à la fois dans le même
instant), de faible débit mais puissamment informative (capable
en quelques fractions de secondes de faire appel et d'évoquer
l'un des plusieurs milliards d'états pré-conscients,
ou plutôt disponibles en mémoire accessible, dont dispose
le système nerveux). Elle est aussi continue (elle ne s'arrête
jamais, même dans certains états de sommeil), en perpétuelle
réactivité et changement suite aux messages exogènes
et endogènes reçus par le sujet. Finalement aussi
elle est "privative" (propre au sujet conscient, qui ne peut la
communiquer sous aucune forme à un autre sujet). La combinaison
de ces caractères fait de la conscience un processus à
la fois limité, fragile, mais extrêmement puissant.
Malgré ses limitations, elle a pu assurer jusqu'à
ce jour le succès compétitif des espèces animales
qui en ont été dotées par l'évolution
sélective.
Or ces caractères, selon Edelman,
résultent de l'existence d'un noyau dynamique de réseaux
de neurones, dans le système thalamo-cortical, qui animent
et informent par ré-entrance, en permanence, un certain nombre
de sites constituant le cœur momentané de la conscience
primaire.
Alain
Peut-être pourrait-on comparer ce
noyau dynamique au faisceau d'une lampe de poche, qui éclaire
successivement et en se déplaçant sans cesse un certain
nombre d'objets différents d'une pièce, et réussit
à donner de cette pièce une image utilisable pour
celui qui veut s'y mouvoir?
Bernard
Pourquoi pas en effet? Ceci dit, le noyau
dynamique ne se limiterait pas à l'interconnexion des zones
relevant de la mémoire immédiatement accessible, mais
il pourrait projeter des fibres, via des ports de communication
entrants et sortants, vers les immenses portions du système
nerveux relevant des cartographies globales sensori-motrices spécialisées,
ou des routines motrices et cognitives relevant de ce que l'on appelle
l'inconscient. Par apprentissage, le champ de l'inconscient peut
se trouver réduit au profit du champ des circuits mobilisables
épisodiquement ou durablement par le noyau dynamique générateur
des faîtes de conscience.
Edelman rejoint Damasio en montrant l'émergence,
sous la pression sélective, de consciences de niveaux supérieurs,
introduisant des proto-concepts dérivant de la catégorisation
perceptive définissant tout système sensoriel et moteur
même le plus primitif . Ceci pose le problème du statut
de l'information dans le monde. L'organisme ne peut accéder
à d'éventuelles réalités qui lui sont
externes et qui caractérisent le monde extérieur,
à partir duquel il construirait des modèles ou descriptions
fidèles. L'organisme ne peut que conserver, par sa propre
organisation, la mémoire des occurrences statistiques selon
lesquelles ses organes se heurtent à un réel inconnaissable
en soi, mais seulement perceptible par son expérience sensorielle
et motrice. A partir de catégorisations perceptives mémorisées
et régulièrement renouvelées, l'on peut imaginer
que le cerveau lui-même élaborera des constantes ou
concepts qu'il utilisera dans le cadre de la conscience comme des
entrées endogènes complétant les entrées
exogènes, et servant à reconnaître ces dernières.
Ce seront d'abord des gestes ou phrases stéréotypées,
objets d'échanges entre individus au sein des groupes.
Parmi eux pourra s'introduire le concept
de soi, autour duquel se réorganisera très vite l'ensemble
des autres concepts. La représentation du soi dans son environnement
est évidemment la pierre de touche de la conscience évoluée,
celle à partir de laquelle, si l'on peut dire, s'est construite
toute la civilisation humaine. Mais les origines du soi (ou du "nous",
c'est-à-dire du groupe intégrant le soi) ne semble
pas très différentes de celles des premiers proto-concepts,
précédemment évoqués. La réentrance
du concept de soi dans de nombreux registres associés par
le noyau dynamique confortera évidement très vite
la conscience de soi ou celle du groupe, en l'enrichissant des innombrables
associations informatives déjà accessibles par le
noyau dynamique, et en "repolarisant" ces associations. L'animal
ainsi enrichi passera très vite alors de la "mémoire
du présent" (conscience primitive) à celle du passé
et à celle du futur. Le statut du langage préalable
ou consécutif à ces constructions fait encore l'objet
de discussions. L'on considère généralement
que le langage, moyen d'échange formalisé entre deux
individus, suppose la conscience chez ceux-ci, et notamment la conscience
de soi. A plus forte raison lorsqu'il s'agira de langages relevant
de la science ou connaissance scientifique. Mais des définitions
plus réductrices des langages peuvent être données.
L'intéressant de tous ces travaux,
qui devront évidemment être affinés et mieux
démontrés dans un proche avenir, est que rien n'interdit
- obstacles technologiques mis à part- de réaliser
des artefacts électroniques ou enrichis de bio-puces, présentant
l'amorce des conditions signalées comme nécessaires
à l'apparition de la conscience: extrême complexité,
extrême variabilité, forte réentrance et redondance,
etc. Ou bien ensuite il sera possible d'injecter sur de telles plates-formes
des flux d'échanges de type voisin de ceux prêtés
au noyau dynamique décrit ci-dessus ou bien, mieux encore,
l'on mettra ces plates-formes en situation de survie compétitive,
pour observer comment elles réagiraient à la pression
de sélection, suite à des flux d'événements
sélectifs envoyés par l'homme ou produits de façon
aléatoire. L'implémentation de proto-conscience (ou
l'élaboration d'automates proto-conscients) pourrait donc
se faire conjointement par voie descendante (l'homme introduisant
progressivement les fonctions et les contenus nécessaires
à chaque niveau) et par voie ascendante (l'automate, pour
survivre, se dotant des réseaux et contenus adéquats
par auto-complexification spontanée, dans le cadre du développement
de ce que l'on schématise par le terme de "réseaux
neuromimétiques" dotés d'une plasticité et
d'une complexité un peu comparables à celle
du cerveau.
Alain
Ceci dit, à supposer que notre automate
acquière des rudiments de conscience analogue à la
nôtre, comment le saura-t-on ? Nous ne pourrons pas plus nous
mettre à sa place que d'ailleurs je ne peux pas me mettre
à la tienne. Je me borne à supposer que tu as une
conscience qui ressemble à la mienne. Devrai-je faire de
même à l'égard du futur automate conscient ?
Bernard
Oui, mais ce ne sera pas un véritable
problème. L'on rencontre d'ailleurs cette situation quand
on traite de la conscience ou de la pré-conscience chez l'animal.
Si l'on postule a priori que l'animal ne peut pas être conscient,
l'on ne verra jamais en lui la moindre trace de cette fonction.
Si l'on fait l'hypothèse contraire, l'on découvre
que l'on peut échanger avec lui, sur le mode de la communication
pré-consciente ou non verbale tout au moins (émotions),
de nombreux messages qui très vite, nous amènent à
nous imaginer, à tort ou plutôt à raison, que
nous nous adressons à un être relativement et passagèrement
conscient.
Alain
Nous n'en avons pas fini avec la conscience,
dans notre discussion d'aujourd'hui. Tu parlais des ouvertures apportées
par l'électroencéphalographie, en citant Walter Freeman...
Bernard
Oui. Mais il n'y a pas que lui. Comme tu
l'imagines, le mystère de la conscience ne cesse d'agiter
les hommes de science, sans parler des philosophes. De nombreuses
hypothèses jugées aujourd'hui irrecevables ont été
émises, relativement aux relations entre l'esprit et le cerveau.
Des gens très sérieux comme Penrose* ou Eccles* ont
essayé de sauver le spiritualisme en évoquant d'hypothétiques
phénomènes quantiques susceptibles de polariser les
neurones. Il y a eu aussi la théorie holographique du cerveau
de Karl Pribram*.
Karl Pribram, neurologue d'origine austro-tchèque
travaillant aux Etats-Unis, s'est fait connaître par une hypothèse,
non reconnue, si j'ai bien compris, par les neurosciences traditionnelles,
selon laquelle la pensée fonctionnerait comme un hologramme.
Cette idée a été avancée pour répondre
à la question de savoir pourquoi, même en cas de destruction
plus ou moins importante d'aires cérébrales corticales,
certains sujets peuvent continuer à fonctionner intellectuellement
sans troubles graves. Selon Pribram, le cerveau est le siège
de transformations holonomiques qui distribuent l'information (notamment
sensorielle) dans diverses régions et qui la regroupent en
cas de remémorisation. Cette hypothèse va à
l'encontre de la conception classique selon laquelle l'information
est mémorisée dans des groupes de neurones bien définis.
Pour lui, la décomposition des signaux en "transformées
de Fourier" permettrait de mémoriser les entrées
sensorielles dans le domaine des fréquences des neurones
excités. Ainsi, selon ce scientifique, les dendrites produiraient
une transformation "spectrale" des "épisodes de la perception".
Cette information spectrale transformée est mémorisée
sur un très grand nombre de neurones distribués. Quand
l'épisode générateur est remémoré,
une transformation inverse se produit, sous forme d'une production
dendritique inverse. Ce processus donnerait naissance à la
conscience de veille.
Alain
Arrête, s'il te plait. Je décroche.
Freeman est-il du même acabit?
Bernard
J'en parle évidemment en profane,
mais je trouve les thèses qu'il développe sur le tard
de sa vie professionnelle (à la fin de quarante ans de recherches
bien remplies) comme beaucoup plus séduisantes. Freeman aborde
la question du cerveau par le plus difficile, c'est-à-dire
par le problème de la conscience, des qualia et de la décision
dite volontaire. Il refuse d'emblée ce qu'il considère
comme des faux-fuyants constituant à évacuer la question:
faire appel à un déterminisme génétique
ou culturel derrière lequel disparaît la volonté
individuelle, renoncer purement et simplement à expliquer
le caractère subjectif et incommunicable de l'expérience
personnelle, ou même prétendre que la conscience est
un épiphénomène ou une illusion. Il reconnaît
au contraire pleinement la capacité de l'individu à
l'autodétermination, mais il veut en trouver l'explication
dans le cœur du fonctionnement du neurone et des assemblées
plus ou moins larges de neurones, décrits par leur activité
électrique.
Ce faisant, il va plus loin que les neurologues
et philosophes dont nous venons de parler (Edelman, Damasio, Dennet).
Ceux-ci, nous l'avions vu, proposent des modèles séduisants
du cerveau conscient, mais qui nous laissent un peu sur notre faim.
Contrairement à ce qu'affirmait Dennett, la conscience est
loin de s'en trouver "expliquée". Tout au plus ces modèles
permettent-ils d'envisager la construction d'artefacts simulant
d'assez loin des comportements intelligents et conscients, sans
que le cœur du système ait paru décrypté.
Freeman est beaucoup plus ambitieux, et
plus révolutionnaire. On peut seulement se demander pourquoi
ses thèses sont aussi peu connues du grand public, sinon
de ses confrères. Il affirme que ce qui était encore
impossible il y a dix ans le devient, par la conjugaison d'une imagerie
cérébrale au pouvoir de définition de plus
en plus grand, et par l'analyse du fonctionnement électrique
des neurones et assemblées de neurones. Il recourt sur ce
dernier point à des techniques s'inspirant de la traditionnelle
électroencéphalographie, mais capables, elles-aussi,
de descendre aussi bien au niveau du neurone que de parties plus
ou moins étendues du tissu cérébral. L'aspect
le plus innovant de sa démarche repose moins dans l'observation
de l'activité électrique des cellules que dans l'appel
aux mathématiques de la dynamique non-linéaire pour
interpréter les états électriques observés.
Alain
Je vois. Nous allons faire appel aux pouvoirs
explicatifs du chaos, nouvelle vertu dormitive...
Bernard
Il est vrai que ceux qui comme nous avaient
déjà du mal à se retrouver dans les mathématiques
classiques considérons avec sans doute des espoirs excessifs,
dus à l'ignorance, les possibilités explicatives de
l'auto-organisation et de l'émergence dans les systèmes
complexes, donnant naissance en permanence à de nouveaux
patterns. Ces patterns sont identifiés comme la manifestation
du chaos, ressemblant à du bruit, mais cachant un ordre sous-jacent
et la capacité de changements rapides et étendus,
comme ceux de la pensée humaine. Ce sont là pourtant
je crois des horizons à prendre tout à fait au sérieux,
même lorsque l'on n'est pas mathématicien. Il n'avait
jamais été possible avant l'apparition de la dynamique
non linéaire de distinguer entre le bruit et le chaos. Dorénavant,
d'innombrables phénomènes relèvent de cette
nouvelle mathématique, depuis la dynamique des fluides (météorologie,
hydrologie), l'analyse des flux circulatoires, l'économie
et la finance, la sociologie et la politique. Pourquoi pas le fonctionnement
de la pensée?
Alain
Le problème qui se pose est qu'il
ne suffit pas de dire "chaos, chaos" pour expliquer la conscience
et surtout la décision volontaire. On peut intuitivement
sentir une analogie prometteuse entre ce qui se passe au sein de
populations de milliards de neurones et au sein de l'atmosphère,
par exemple. Il ne paraît pas absurde de comparer la naissance
et la dérive d'une pensée au sein du cerveau, se manifestant
par des modifications de l'état électrique des neurones
impliqués, avec la création et la dérive d'une
dépression sur le front polaire en météorologie.
Reste quand même d'une part à justifier expérimentalement
que de telles comparaisons ont un sens et, d'autre part, à
poser de nouveau la question du libre-arbitre.
Bernard
Le Pr Freeman veut encourager, nous dit-il,
les gens à se convaincre qu'ils ont la possibilité
de faire des choix. Pour cela, il veut renouveler la définition
de la causalité volontaire. Loin que celle-ci soit réservée
aux humains, il la fonde dans le concept d'action orientée
vers un but (goal-oriented action) appelée aussi "intentionnalité".
Ce terme employé par Thomas d'Aquin dès 1272, est
très à la mode aujourd'hui. Il décrit l'engagement
total d'un acteur, corps et cerveau, vers une action correspondant
à un but choisi par cet acteur. Il se distingue du motif
et du désir qui sont des sous-produits de cette intention
ou intentionnalité.
Dans la mesure où le cerveau s'implique
dans le processus d'intentionnalité, des significations se
créent, exprimées sous forme de symboles, gestes et
mots. Elles résultent du fait que le cerveau crée
des comportements intentionnels, puis se modifie en fonction des
conséquences sur le monde, perçues par les sens, de
ces comportements (processus appelé "assimilation" par Aquin
et Piaget): le soi arrive à comprendre le monde en s'adaptant
à lui. Pour l'homme, animal social et verbalisé, c'est
plus particulièrement l'impact de l'action de l'individu
sur les autres, qui crée le soi, en lui bâtissant progressivement
une expérience et une histoire. Le contenu des significations
est très largement social (résultant du contact avec
la culture), mais les mécanismes doivent en être étudiés
en terme de dynamique cérébrale.
Les significations, pour Freeman, sont
des structures vivantes qui croissent et changent, tout en persévérant.
Elles s'expliquent par des phénomènes relevant de
la dynamique non-linéaire. Pour mieux les situer, et préciser
comment du chaos peut venir l'autodétermination, il nous
invite à comprendre l'organisation hiérarchique des
neurones en deux niveaux de taille et d'échelle. Il présente
les concepts d'état du neurone individuel et d'une population
de neurones, sa variable d'état et son espace d'état,
la stabilité des états et les transitions d'état
entre états à l'occasion d'une déstabilisation.
Il applique ensuite ces concepts de la
dynamique aux premiers effets de la perception de l'environnement
par les sens. Le cerveau répond au changement du monde en
déstabilisant ses cortex sensoriels primaires. Ainsi se construisent
des patterns d'activité neurale constituant une nouvelle
signification. Ces patterns, en atteignant d'autres zones du cerveau
sont "digérés" de façon spécifique à
chaque personne, en fonction du contenu préexistant propre
à cette personne. A un niveau hiérarchique supérieur,
les différents patterns émis par les cortex sensoriels
sont fusionnés dans les structures profondes du cerveau,
en donnant naissance à de nouveaux patterns d'activité.
Aucune structure n'assure de coordination spécifique. Celle-ci
naît, comme Gérald Edelman l'a fait remarquer, de l'existence
de voies massivement réentrantes permettant à chaque
sous-ensemble d'informer les autres des produits de son activité,
et de tenir compte de l'activité des autres sous-ensembles.
A un niveau encore supérieur, Freeman
fait intervenir l'attention ou état de veille (awareness)
en relation avec la formation et la conservation des significations.
L'attention n'est pas indispensable à la mise en oeuvre de
comportements intentionnels, mais elle intervient quand le cerveau
a besoin de penser ses intentions et de se les représenter
en mots - ceci notamment à l'occasion de la communication
avec les autres par les langages. Ceci nous conduit au cœur
de ce que l'on appelle la conscience.
Je te propose ici une traduction de ce
qu'en dit Freeman, parce que c'est je crois important: " Nous
approcherons la biologie de la conscience en examinant les concepts
de causalité linéaire et circulaire. La façon
dont nous nous représentons les causes peut être expliquée
en termes neurobiologiques comme dérivant de celle dont nous
sommes conscients de notre expérience et de notre intentionnalité.
Ceci montre les limites de la causalité linéaire,
et nous aide à comprendre la causalité circulaire,
qui est une espèce d'abri à mi-chemin entre la confortable
certitude de la causalité et l'effrayant désert, ne
laissant pas de place à l'humain, découlant de processus
sans cause. Ma conclusion s'accorde avec une hypothèse proposée
par le psychologue William James en 1878, selon laquelle la conscience
est interactive avec les processus cérébraux, en n'étant
ni un épiphénomène ni une cause. La conscience
ne contrôle pas les actions comportementales, au moins directement.
En terme de dynamique, c'est un opérateur, parce qu'elle
module les dynamiques cérébrales dont ont découlé
les actions passées. Résidant nulle part et partout,
elle reforme les contenus qui sont fournis par les différentes
parties du cerveau. C'est la croissance considérable des
lobes frontaux et temporaux chez l'homme qui a permis ceci.".
Alain
Est-ce que Freeman envisage la création
de consciences artificielles réutilisant ces éléments
de dynamique cérébrale?
Bernard
Il y fait allusion, mais ce n'est pas son
point fort. En ce qui concerne la définition et la création
d'une conscience arficielle, je te signale par contre un ouvrage
extraordinaire, dont nous reparlerons dans un entretien ultérieur,
écrit en 1999 par un professeur français, Alain
Cardon: Conscience artificielle et systèmes adaptatifs *
Alain
Revenons au problème plus général
de l'émergence d'agents conscients, qu'ils soient biologiques
ou artificiels. Nous les avons situés dans la perspective
de ce que nous avions appelé des machines à inventer,
en postulant que les agents conscients représentent une forme
plus efficace d'invention que les solutions plus anciennes, et d'ailleurs
toujours en activité, qu'offrent l'évolution biologique
et neurologique, celle-ci sous ses formes restant inconscientes.
Mais ce postulat est-il bien exact? La conscience fournit-elle un
avantage adaptatif?
Bernard
Il faut toujours relativiser l'appréciation
des avantages adaptatifs. Les virus ou les blattes,
nous l'avons déjà dit, disposent, même encore
de nos jours d'avantages adaptatifs indiscutables. Ceci dit, il
est également indiscutable, me semble-t-il, qu'un agent capable
de se représenter lui-même et de se situer, pour le
passé et pour le futur, dans un environnement qu'il a traduit
en informations utilisables pour lui, met beaucoup de chances de
son côté, en termes de survie. Dire le contraire voudrait
dire que l'on nie l'existence de la science et de la technique,
dont au moins une grande partie résulte de processus conscients
et volontaires.
Alain
N'avons nous pas déjà observé
qu'une partie des activités dites scientifiques obéit
à des déterminismes sociaux inconscients?
Bernard
Sans doute, mais ton observation signifie
qu'avant de nous poser la question de la validité, notamment
pour la survie, de la conscience individuelle, nous devons revenir
au point que nous évoquions au début de cette conversation:
les relations entre la conscience individuelle et la conscience
collective. Ce sera sous cet angle aussi qu'il faudra se poser la
question d'une conscience artificielle.
Auteurs cités (signalés par * dans le texte)
Alain
Cardon Conscience artificielle et systèmes adaptatifs. Eyrolles,
1999
Jean-Pierre
Changeux, L'homme neuronal, Fayard 1983
Antonio Damasio, Le
sentiment même de soi, Editions Odile Jacob, 1999
Richard Dawkins, Le
gène égoïste, Armand Colin ,1990
Daniel C. Dennett, La
conscience expliquée, Editions Odile Jacob, 1991-1993
Daniel C.Dennett, Darwin
est-il dangereux? Editions Odile Jacob, 1995-2000
Gerald Edelman, Comment
la matière devient conscience, Odile Jacob, 2000
Walter Freeman
How brains make up their minds , Phoenix, 1999
Karl H. Pribram, Brain
and perception - Holonomy and structure in figural proccesing,
1991, Lawrence Erlbaum Associates, Inc
Steven Pinker, Comment
fonctionne l'esprit, Odile Jacob, 1999
La suite du chapitre 3,
prochain numéro: section 3. La conscience collective
Automates Intelligents © 2001
|
|
Automates
Intelligents utilise le 
