|
02 Septembre 2002
 Dossier
Super-intelligences
Retour
à la page d'accueil
Réactions à votre dossier
Par Mathieu Ducourneau, lecteur d'Automates Intelligents
En attendant d'avoir un jour
un système automatique de prise en compte directe des observations
des lecteurs, tel que le crit http://crit.org/
(lequel, dit incidemment, parait bien lourd), nous sommes heureux
de recevoir et publier vos réactions, si vous nous y autorisez,
dans la suite de tel ou tel article. Voici celle de Mathieu Ducourneau,
un des animateurs de la liste meme.fr memes-fr@smartgroups.com
que nous remercions vivement AI
J'ai lu avec grand intérêt votre Lettre
Automates Intelligents n° 32 du mercredi 14 août 2002.
Particulièrement le dossier Super Intelligences au sujet
duquel j'ai quelques observations à vous soumettre.
Vous dites : "l'informatique moderne est loin de ressembler
au modèle de la machine de Turing numérique à
laquelle les esprits attardés veulent encore la comparer".
Ce avec quoi je suis à la fois d'accord et pas d'accord.
Ce fameux argument de la machine de Turing est remarquable d'une
part parce que les détracteurs de l'IA l'exhibent quasi systématiquement
et d'autre part parce que les défenseurs de l'IA présentent
souvent un malaise face à lui.
Je ne suis pas d'accord parce que le principe de la
machine de Turing permet encore et toujours de simuler à
la perfection n'importe quel ordinateur hi-tech d'aujourd'hui et
très probablement de demain. Que le système soit massivement
parallèle, muni de fonctions très complexes gérant
des paquets de 64 ou 1024 bits d'un coup, qu'il intègre un
réseau neuronal, un algorithme évolutionniste ou autre...
bref quelles que soient ses fantastiques caractéristiques
il sera toujours possible de les simuler parfaitement via une machine"bête",
monoprocesseur et ancestrale. Les ordinateurs d'aujourd'hui correspondent
encore et toujours au schéma de la machine de Turing ! Je
vois difficilement comment on peut nier cet état de fait.
D'ailleurs je vois également assez mal comment
on peut sérieusement refuser d'admettre, en l'état
actuel de nos connaissances, qu'un cerveau humain puisse être
parfaitement simulé par une machine de Turing.
Par contre je vous suis sur le fond lorsque vous combattez
le décourageant "M'enfin allons, ce dont vous me parlez n'est
qu'une machine de Turing, rien de plus !". Ce à quoi vous
me semblez répondre "Mais non, c'est bien plus qu'une simple
machine de Turing !". Ce à quoi moi je répondrais
"Certes mais c'est déjà énorme. Votre propre
cerveau en est une."
Il est important d'avoir un point de vue très
carré sur cette question épineuse. Question que l'on
risque probablement d'affronter de manière récurrente
jusqu'à ce que les esprits aient évolué.
Ce que je voulais dire était
que, de même que les responsables d'applications informatiques
veulent éviter de se faire reprocher d'imposer à
une organisation, avec l'usage de l'ordinateur, des solutions bêtement
mécanistes linéaires, en négligeant la complexité
de cette organisation, de même évoquer sans précautions
la machine de Turing donne des armes aux gens non informés
pour accuser l'IA d'être réductionniste. Je crois d'ailleurs
que, pour reprendre votre exemple, si on peut comparer un neurone,
ou mieux une synapse, à une machine de Turing, les propriétés
émergentes liées au fonctionnement de milliards de
telles machines neuronales relèvent d'une autre logique.
On se trouve alors dans un monde analogue (à mon avis), aux
automates cellulaires constitués de machines de Turing, décrits
par Wolfram, qui font émerger des complexités intrinsèques
qui n'étaient pas dans la machine élémentaire.
Jean-Paul Baquiast
Ensuite, et c'est ce qui m'a le plus choqué
dans l'ensemble, je pense que vous faites la part trop belle à
la seule "puissance" calculatrice. Vous dites : "[les] premières
difficultés et [les] échecs de l'intelligence artificielle
[sont] dus essentiellement à la disproportion entre les ambitions
et les moyens de calcul disponibles".
Cela me semble largement minimiser l'ampleur de l'échec
de la première mission de découverte du merveilleux
monde de l'IA. Je pense qu'il est plus juste de dire que cet échec
est dû à une grave sous-estimation de la complexité
du domaine abordé. Des algorithmes ont été
'grossièrement' élaborés, une grosse partie
de l'intelligence du système étant supposée
émerger in fine naturellement et forcément grâce
à une fréquence d'horloge 'énorme'.
Il convient à mon sens de ne pas mélanger
d'un côté l'intelligence propre à l'algorithme
même et d'un autre la puissance de calcul brut. Même
si l'un ne sert à rien sans l'autre et si l'intelligence
du système correspondra forcément à la combinaison
des deux.
C'est d'ailleurs particulièrement flagrant pour
les programmes échiquéens. Kasparov a été
battu (dans les conditions troubles qu'on connaît) il y a
5 ans. Pourtant aujourd'hui bien que les machines aient depuis multiplié
leur puissance par 30 on constate que :
- Des maîtres loin d'être dans le top 10 mondial gagnent
encore haut la main en parties longues (~3h).
- En parties en différé (chaque coup peut prendre
plusieurs jours), l'ordinateur peut encore assez facilement être
battu par des joueurs modestes ?
Dans ce domaine précis on attend davantage l'arrivée
de logiciels 'comprenant' mieux le jeu plutôt que des processeurs
ultra-puissants. En général les softs se débrouillent
très bien mais pour peu qu'on s'y attarde un peu, il est
assez facile de mettre la machine dans une position qui montre sa
'stupidité' (certains joueurs y dédient d'ailleurs
beaucoup de leur temps, des sites y sont consacrés).
La puissance seule est donc très loin d'être
suffisante pour l'exercice intellectuel très limité
qu'est le jeu d'échecs. C'est certainement cruellement beaucoup
plus vrai lorsque le périmètre est moins limité.
Il est certain que si on attend
que les mémoires de demain développent des solutions
hyper-intelligentes par auto-organisation spontanée sur le
mode darwinien, on attendra longtemps. Il faut aussi des hypothèses
intelligentes et des logiciels capables de les exprimer. On a bien
connu l'ordinateur IBM 1401 avec 4K de mémoire, alors que
dans le même temps on parlait de traduction automatique à
Grenoble...JPB
"Comprendre" en profondeur le fonctionnement d'un cerveau
n'est effectivement pas théoriquement indispensable à
la constitution d'un algorithme offrant les mêmes aptitudes.
En effet, on peut simplement recopier point à point. Réeffectuer
dans un réseau neuronal virtuel tous les branchements logiques
présents dans un cerveau, n'oblige pas à comprendre
le pourquoi de chacun de ces branchements. Cependant cela me semble
potentiellement impliquer de fortes limitations.
Par exemple j'ai lu : "De plus, elles [les machines]
pourront transférer de l'une à l'autre leurs acquis
intellectuels en quelques secondes". Comment effectuer ce transfert
dans la mesure où l'information impacte potentiellement l'intégralité
du système ? Où la prendre et où l'écrire
? Dans ce cadre, il me semble illusoire d'espérer pouvoir
faire un transfert aussi simplement.
C'est peut-être discutable dans le cas où
l'information échangée ne concerne que des définitions
bêtes ou formules arrêtées et carrées.
Par contre si l'objet du transfert est un point de vue, un sentiment,
une impression, une philosophie ou la compréhension d'un
phénomène, là pour le coup l'impact doit forcément
être très lourd et le 'transfert' va prendre un aspect
tout autrement plus trapu !
Super-Intelligence enfin : Toujours dans le cadre où
une simple recopie d'un cerveau est utilisée pour créer
une intelligence artificielle, il ne me semble pas du tout évident
de pouvoir passer au cap suivant à savoir les "super-intelligences".
Certes on peut accélérer la fréquence des cerveaux
électroniques et obtenir des penseurs cogitant 10, 50 ou
100 fois plus vite qu'un humain classique mais le passage ne me
semble pas du tout naturel vers une "génération [qui]
sera devenue sans doute si intellectuellement habile qu'elle ne
pourra plus être comprise par le commun des mortels. Il faudra
qu'elle apprenne à rester dans les limites de l'intellect
humain. Ces robots n'auront pas a priori besoin de se parler à
eux-mêmes pour augmenter leurs aptitudes à la conscience.
Leurs programmes de raisonnements seront suffisamment puissants
pour se passer du langage."
Peut-être serait-il intéressant d'avoir
une ébauche de la simulation réalisée par Hans
Moravec pour ne serait-ce qu'avoir une idée de cheminement
qui le conduit à cette conclusion ? Cela me semble très
loin d'être évident. Le raccourci n'est-il pas un peu
rapide ?
Nombreux sont ceux qui formulent
des objections de ce type aux propos de Kurzweil et de Moravec,
comme on le voit dans leurs forums en anglais. Je pense qu'elles
ont au moins l'intérêt de stimuler les chercheurs dans
le développement pratiques des solutions qu'ils envisagent.
Les deux démarches iront vraisemblablement de pair: scanner
et reproduire par rétro-ingénierie des tranches (sic)
de cerveau, et faire émerger sur des automates des populations
d'agents présentant des fonctions convergentes. L'intérêt
de toutes ces hypothèses est qu'elles nous obligent à
voir autrement ce qui est le quotidien de notre vie intellectuelle.
Je termine la lecture actuellement des 2 livres de Lee Smolin, dont
je donnerai un résumé dans le prochain numéro.
Là encore il s'agit d'un chercheur qui a imposé une
autre vision de l'univers, comme le remarque justement Jean-Claude
Heudin (voir interview
). JPB
Retour
à la page d'accueil du dossier
© Automates Intelligents 2002
|
Automates
Intelligents s'enrichit du 
