28 Juillet 2002
Notes par Jean-Paul Baquiast

Dossier super-intelligences
Retour à la page d'accueil

Hans Moravec Robot. Mere Machine to Transcendent Mind Oxford University Press, 1998

Hans Moravec est un des leaders mondiaux en matière de recherche robotique, qu'il a pratiquée depuis 1970. Il dirige actuellement un programme sur 10 ans à la Carnegie Mellon University, visant à réaliser avant 2010 la production industrielle de robots universels utilitaires. Il est aussi l'auteur de M.I.N.D. Children, The Future of Robots and Human Intelligence, Harvard University Press, Cambridge, Massachusetts, October 1988 - Version française : Une Vie Après la Vie, Odile Jacob, 1992, ainsi que d'un très grand nombre de rapports et d'articles traduits dans de nombreuses langues. Pour en savoir plus Hans Moravec. Site personnel : http://www.frc.ri.cmu.edu/~hpm/   Voir aussi Interview (Nov 1998) http://www.robotbooks.com/Moravec.htm Images et commentaires concernant le livre http://www.frc.ri.cmu.edu/~hpm/book98/ Robots, Re-Evolving Mind 2000. Article. On y retrouve, actualisés, les principaux thèmes de Robot http://www.frc.ri.cmu.edu/~hpm/project.archive/robot.papers/... Voir aussi Ripples and puddles http://www.frc.ri.cmu.edu/~hpm/project.archive/robot.papers/2000/...

Sur le fond, on constate à quelques nuances près une convergence entre les analyses et prédictions de Hans Moravec et celles de Ray Kurzweil, que nous présentons par ailleurs. Selon ces deux auteurs, nous sommes engagés (sans nous en apercevoir vraiment) dans une sorte de mutation de phase évolutive, une méta-transition, qu'avec le recul on jugera aussi importante que la découverte de l'outil et du langage symbolique par les premiers hominiens. Elle est due à l'explosion exponentielle de la puissance des moyens de calcul, estimée actuellement à un doublement chaque année.

Aux Etats-Unis, où les idées neuves trouvent vite leur public, il semble qu'aujourd'hui ce message soit de mieux en mieux compris. Malgré la crise de maturité qui frappe les valeurs technologiques, de plus en plus de gens se sont convaincus de la réalité de la méta-mutation en train de se produire. Les ouvrages et articles exploitant ce thème, autour de l'émergence de machines super-intelligentes, se multiplient. Comme nous l'avons indiqué par ailleurs, la National Science Foundation elle-même considère qu'il s'agit d'un avenir auquel il faut se préparer. Elle recommande au gouvernement une série de mesures destinées à encourager la R&D dans les technologies qui accroissent les capacités et l'efficacité de l'intelligence humaine, dont profitera la robotique : Nanotechnologies, Biotechnologies, Infotechnologies et technologies de la Cognition. Le lancement d'un Human Cognome Project de même ampleur que l'Human Genome Project est souhaité par les experts.

Comment s'expliquerait alors la crise actuelle des nouvelles technologies ? Un des raisons de l'atonie du marché expliquant le décalage actuel entre les prévisions et les résultats des industriels tiendrait au fait que l'intelligence des utilisateurs, comme des applications qui leur sont proposées, n'a pas augmenté au rythme des possibilités techniques. Il faudrait donc pour assurer la reprise et l'expansion à long terme des activités de haute technologie, entreprendre un effort massif en amont, destiné à élever les compétences cognitives de la société toute entière, notamment par l'intermédiaire de l'éducation, de la formation et de loisirs. Concernant les robots proprement dit, Hans Moravec ajoute qu'il faudrait aussi assurer le développement d'une large gamme de robots utilitaires polyvalents susceptibles de rendre des services nouveaux dans un très grand nombre d'activités sociales.

C'est ce à quoi s'attache d'ailleurs aujourd'hui l'auteur de Robot. Il est, dit-il, responsable d'un des plus importants projets mondiaux en matière de robotique intelligente, qu'il a fondé au sein de la Carnegie Mellon University. Il s'agit de promouvoir la production en masse de robots utilitaires disposant d'une représentation du monde riche, en 3 dimensions. Ce projet soutenu par les militaires (DARPA) vise à créer le marché à partir duquel des systèmes intelligents encore plus avancés pourront être financés (On en trouve les comptes-rendus sur le site http://www.frc.ri.cmu.edu/~hpm/project.archive/).

Une telle stratégie est une suite logique des constatations de l'auteur, faites dès 1978, relatives aux difficultés de l'IA à l'époque, qu'il rapporte dans son livre. Hans Moravec y explique qu'il s'était convaincu de l'impossibilité à cette date de concurrencer l'intelligence humaine par l'intelligence artificielle, comme le pensait John Mac Carthy, autre pionnier de l'IA, fondateur du programme SAIL au Stanford AI laboratory où Hans Moravec terminait une thèse sur la vision artificielle pour un robot mobile. Les ressources informatiques d'alors étaient incapables de concurrencer la richesse de la pensée humaine, ni même des organes sensoriels des animaux les plus simples, tel l'œil de la mouche.

Alors que tous, face aux tâtonnements de la première IA, s'orientaient vers l'informatique facile, celle du calcul digital où les ordinateurs sont imbattables, Hans Moravec poursuivit ses travaux dans le domaine des capteurs sensoriels, utilisant notamment les réseaux neuronaux, là où l'informatique classique est peu performante, mais où au contraire, excellent les systèmes vivants, obligés par l'évolution de se doter de cartes cognitique du monde (maps) très performantes. A ce propos, l'auteur signale dans son livre la divergence qui l'a opposé à Rodney Brooks, dans les années 1980-90 (relatée aussi dans le dernier livre de celui-ci, "Flesh and Machines", dont nous avons rendu compte récemment). Rodney Brooks a relancé la robotique autonome en renonçant à doter les robots d'une représentation a priori de leur monde leur permettant d'y naviguer. Au "mapping", il a préféré le système des réflexes ou "behaviorisme", concevant des robots capables d'évoluer en cumulant des comportements simples dont peuvent émerger des comportements complexes. Mais Hans Moravec ne s'estime pas battu. Il estime que le behaviorisme trouvera vite des limites, et qu'il faudra en revenir à des robots dotés - ou se dotant - de représentations fines de l'espace, ambition qui anime son programme actuel à Carnegie Mellon. En fait, nous dit-il, les diverses solutions se conjugueront progressivement, du fait précisément de la puissance accrue des moyens de calcul embarqués.

Tout en poursuivant ses recherches en robotique, Hans Moravec gardait les yeux bien ouverts sur l'évolution des technologies de l'information, notamment sur la question du rapport coût/performances. Sans doute le premier de tous, il proposa en 1978 dans un article de la revue Analog l'idée qu'en 10 ans, il serait possible de disposer de ressources suffisantes pour une reprise de projets d'IA ambitieux, en interconnectant les milliers de micro-ordinateurs qui commençait à apparaître.

Cette perspective resta cependant hors d'atteinte pour des raisons économiques pendant quelques années, vu le prix de l'unité de calcul. Mais la chute vertigineuse des ratios coûts/performances dans les années suivantes permit de rendre la prévision initiale plus crédible. Il en résulta le premier livre qui fit connaître Hans Moravec du grand public, Mind Children's, the Future of Robot and Human Intelligence, Harvard University press, 1990, qui pronostiquait l'émergence des compétences humaines dans des ordinateurs de 1000 dollars à échéance de 40 ans.

Les taux de croissance envisagés ont été dans l'ensemble vérifiés, sauf nous dit Moravec dans le domaine nouveau des robots mobiles utilitaires, où les entreprise y ayant investi ne purent commercialiser leurs produits faute de clientèle. Mais le secteur devrait progressivement repartir prochainement, à la suite de nombreux efforts de recherche aux Etats-Unis et au Japon.

On constatera une grande convergence d'approche entre les perspectives de Hans Moravec et celles de Ray Kurzweil. Dans les deux cas, il est proposé d'extrapoler l'expansion accélérée des ressources informatiques et des travaux de laboratoire en IA et robotique autonome pour en déduire l'apparition de systèmes artificiels égalant puis surpassant l'intelligence humaine. Mais Robot va un peu plus loin que les livres de Kurzweil dans l'étude des conséquences que ce phénomène pourra entraîner sur notre connaissance profonde du monde réel, qui se révélera peut-être différent de ce que nous en disent les sciences fondamentales d'aujourd'hui. A cet égard il est beaucoup plus riche et stimulant, tant pour les scientifiques que pour les philosophes.

Résumé du livre

L'argument du livre concerne l'avenir des machines intelligentes, incarnées plus spécifiquement dans des robots mobiles universels. Il pronostique que ces machines seront équivalentes à l'intelligence humaine dans moins de cinquante ans. Mais loin de présenter ceci comme un développement dangereux pour l'espèce humaine, il s'attache à en montrer les aspects positifs. Les derniers chapitres nous projettent dans un futur plus lointain, qui mérite cependant d'être pris en considération dès aujourd'hui.

Depuis 1988, date de publication de Mind Children's, les progrès des machines ont été considérables, touchant tous les domaines de la science, de l'économie et de la société (pour ne pas mentionner la défaite du champion de monde d'échecs en 1997). Les prévisionnistes n'avaient pas anticipé ce phénomène, faute d'avoir prévu la multiplication par 100 des puissances de calcul dans les dix dernières années. Cette puissance, aujourd'hui, nous l'avons vu, double environ tous les ans, ce qui entraîne inévitablement une croissance rapide de l'intelligence des machines.

Il faut commencer à évaluer les résultats d'un tel phénomène. Le premier chapitre du livre le replace dans l'histoire de l'humanité. Depuis les origines, les hommes avaient vécu dans de petits ensembles tribaux. Leurs instincts ont été façonnés par la compétition et la guerre avec les tribus voisines, qui ont consommé une grande partie des gains apportés par l'amélioration progressive des pratiques agricoles et industrielles. De ce fait, les citoyens d'aujourd'hui ont de plus en plus de mal à s'adapter aux modes de vie radicalement nouveaux résultant de l'expansion des technologies, bien que l'éducation consomme aujourd'hui près de la moitié du temps consacré à la vie professionnelle. Mais on peut espérer que la tension diminuera. L'auteur montre l'importance des tâches dorénavant confiées aux machines dans les sociétés avancées. Comme une part encore accrue de la charge de travail à venir, qui globalement continuera à s'accroître et se compliquer, sera prise en charge par des machines de plus en plus intelligentes, les hommes pourront retrouver le temps de mieux maîtriser leur développement.

Ceci étant, les débuts de l'IA et de la robotique n'ont pas été pavés de succès. Le chapitre 2 décrit une histoire emplie de grandes ambitions, de résultats douteux et donc de beaucoup de découragements. Cette histoire a été relatée par de nombreux auteurs. L'avantage de Hans Moravec est qu'il l'a vécue au premier chef. Il n'hésite pas ce faisant à remettre en cause quelques idées reçues. Ainsi il conteste la toute puissance des premiers réseaux neuronaux qui, disposant de trop peu de neurones, ne pouvaient simuler les comportements élaborés. Il fait justice aussi de l'idée selon laquelle l'université américaine disposait de moyens considérables. Le PDP d'1 MIPS était encore le plus répandu. Lui-même, développant la méthode des cartes cognitives (grids), qu'il décrit en détail, aurait eu besoin pour obtenir des résultats satisfaisants de puissance de 100 à 1000 MIPS. Malgré ces difficultés, nous dit-il, la robotique suscita de grands espoirs. De nombreuses start-up furent créées puis disparurent faute de perspectives commerciales viables. Simultanément on vit naître, avec plus de succès, de nombreux clubs de roboticiens amateurs, notamment dans les collèges. Observons que ce phénomène intéressant ne commence qu'actuellement à apparaître en France.

Le chapitre 3 étudie en détail les rapports entre l'évolution des puissances de calcul des machines et la puissance de calcul estimée des organismes vivants, en rappelant que de telles comparaisons restent assez grossières, car elles ne tiennent pas compte des architectures comparées des systèmes, non plus que des logiciels ou comportements plus ou moins efficaces auxquelles les puissances sont affectées. Le propre de l'intelligence naturelle, en effet, est la reconnaissance de formes, qui consomme des puissances de calcul sans communes mesures avec celles nécessaires au calcul de type arithmétique. Les systèmes militaires actuels pour l'identification d'objectifs peuvent exiger jusqu'à 10.000 MIPS. La rétine humaine comporte 100 millions de neurones et peut traiter 10 images par seconde. Ceci demande au moins 1.000 MIPS pour obtenir le même résultat d'une machine. Le cerveau humain étant estimé à 100.000 fois le volume consacré au traitement des informations provenant de la rétine, simuler l'ensemble des fonctions du cerveau nécessiterait 100 millions de MIPS. Deeper Blue, qui vainquit Kasparov aux échecs n'avait qu'une puissance de 3 millions de MIPS estimée en temps de calculateur universel. De plus, rappelle Hans Moravec, une machine de 100 millions de MIPS coûterait aujourd'hui plus de 20 millions de dollars. Elle serait réservée à des travaux scientifiques prioritaires, et non pas à simuler un banal cerveau humain. Enfin, les programmes informatiques ont besoin tout autant de mémoire que de vitesse de calcul. Il y a un rapport constant remarquable entre la vitesse et la mémoire. Selon les applications, on peut mettre l'accent sur l'une ou sur l'autre de ces qualités. Là encore, la mémoire se paie cher aujourd'hui. Ceci veut dire que les machines ayant la capacité de traitement d'un cerveau humain n'auront de signification économique que si elles coûtent moins que ce dernier. Le seuil au dessous duquel descendre pour être rentable est aujourd'hui estimé à 1000 dollars le cerveau (ce qui n'est pas cher payer l'homme…).

Pour Hans Moravec cependant, comme pour Ray Kurzweil, le diagnostic ne fait pas de doute. Compte tenu des courbes actuelles, des machines offrant la puissance de calcul du cerveau humain pour 1000 dollars devraient apparaître vers 2020-2030, plus tôt si les technologies venant en relais du silicium, voyaient le jour dans la prochaine décennie. Hans Moravec présente rapidement ces technologies nouvelles, la plus prometteuse semblant être l'ordinateur quantique. Avec lui, le calcul et la modélisation changeront véritablement de dimension, en se rapprochant de dimensions de l'univers encore mal explorées.

Cela dit, beaucoup de gens se refusent encore à la perspective de voir des machines pleinement intelligentes apparaître dans quelques décades. Ils les repoussent à 2 ou 3 siècles, s'appuyant sur la lenteur des développements de l'IA enregistrés durant les cinquante dernières années. Ce fut en effet alors l'âge glaciaire (the big freeze) de l'IA. Mais le dégel est en route. Hans Moravec propose une image significative. Si on représentait les compétences humaines au regard des possibilités de calcul par un diagramme en 3 dimensions, les vallées occupées par les activités ne demandant qu'une informatique simple, de type arithmétique, et les sommets figurant les tâches supérieures du cerveau humain, on verrait l'eau monter progressivement des plaines vers les sommets, au fur et à mesure de l'augmentation des compétences des ordinateurs. Dans un demi-siècle le flot devrait avoir tout recouvert. On disposera alors de machines donnant l'impression immédiate de la conscience, compte tenu de leur capacité à manipuler rapidement des flots de données diversifiées. En d'autres termes, elles passeront avec succès le test de Turing. Le livre reprend les 9 objections que Turing avait identifiées dans la bouche de ceux refusant que les machines puissent penser. Il montre que dans les prochaines décades, elles ne tiendront plus. Si alors les machines ne pensent pas, du moins elles en donneront tous les symptômes. De plus, elles pourront transférer de l'une à l'autre leurs acquis intellectuels en quelques secondes, ce qui n'est pas le cas des hommes, où le transfert de compétences d'un individu à l'autre demande des années. On trouve dans ce chapitre de Robot les meilleurs arguments fournis à ce jour pour démontrer la faisabilité de l'intelligence et de la conscience chez les machines.

Mais comment en arriver là en pratique. Le chapitre 4 décrit en détail la voie dans laquelle travaille Hans Moravec et ses équipes, ainsi qu'un certain nombre d'autres industriels, notamment japonais : développer des robots universels, dotés de capacités sensorielles et motrices étendues, susceptibles d'apprentissage, à prix bas, et pouvant ainsi rendre des services nombreux et diversifiés dans le monde de demain. On pourrait penser que nos sociétés - sans mentionner celles du tiers-monde - sont déjà saturées d'individus qui ne trouvent pas à s'employer pour un salaire décent. Mais il existe pourtant d'innombrables tâches utiles qui ne sont pas faites et qui pourraient être confiées à des générations de plus en plus efficaces de robots universels, dans la vie civile, dans les laboratoires et les industries, dans le domaine militaire enfin. Hans Moravec décrit les générations successives de robots susceptibles de découler de ses recherches. La 3e génération de robots universels proposée dans le livre pour les années 2030 comporterait des machines de 3 millions de MIPS embarqués (la puissance d'un cerveau de singe) et seraient capables de se donner des modèles du monde (perception models) très complets et rapidement actualisables. Ces robots seraient construits de matériaux composites solides et légers. Les robots de 4e génération, vers 2040, disposeraient de puissance de calcul de 100 millions de MIPS (le cerveau humain) et seraient capables de raisonner, en dialogue avec les hommes.

Jusqu'à cette date, la réalisation et la mise en œuvre de ces multiples robots fourniraient aux laboratoires et aux industriels des chiffres d'affaires et des emplois en grand nombre. Ensuite se posera la question de savoir quelle attitude les hommes adopteront vis-à-vis de ces robots, dont les compétences seront souvent supérieures aux leurs. Hans Moravec s'est livré à des simulations relatives aux capacités des robots de chacune de ces générations, au regard des capacités humaines. Ces simulations montrent que chaque génération de robots manifestera des qualités de plus en plus proches de celles de l'homme. La quatrième génération sera devenue sans doute si intellectuellement habile qu'elle ne pourra plus être comprise par le commun des mortels. Il faudra qu'elle apprenne à rester dans les limites de l'intellect humain. Ces robots n'auront pas a priori besoin de se parler à eux-mêmes pour augmenter leurs aptitudes à la conscience. Leurs programmes de raisonnements seront suffisamment puissants pour se passer du langage. Celui-ci ne sera utilisé que pour communiquer avec l'homme. Les capacités de conscience, qui représente un poids (un handicap quant il s'agit de réagir vite), seront plus ou moins développées selon les types d'actions envisagés.

Le chapitre étudie la façon dont ces robots de 4e génération expérimenteront des émotions analogues à celles de l'homme : peur, ennui, amour, etc. Aucune de celles-ci ne leur seront a priori impossibles. Par contre, comme ils auront des puissances de raisonnement sans commune mesure avec celles des hommes, leur moindre action pourra faire l'objet, sous le contrôle d'un "raisonneur" (reasoner) de spéculations préparatoires poussées, qui pourront donner de meilleurs résultats que les réponses de type passionnel.

En fait, et c'est là que l'avenir de l'humanité changera radicalement de perspectives, leurs capacités trouveront le meilleur usage possible non plus dans les sociétés humaines étroitement limitées par les frontières terrestres, mais dans l'espace, ou dans des domaines de la terre inaccessibles aux hommes. Ces robots intelligents, enfants de notre esprit, porteront au loin notre culture, d'une façon devenue totalement indépendante de la biologie.

Les deux derniers chapitres du livre, l'âge des robots et l'âge de l'esprit, esquissent ce que sera une société où les machines intelligentes, associées aux hommes selon des modalités qui, selon Hans Moravec, devraient se préciser sans conflits, pourraient changer le monde terrestre et son environnement cosmique propre, mais aussi - plus fondamentalement - nos connaissances scientifiques du monde, encore enfermées dans les concepts vieux de bientôt un siècle des relativistes et des physiciens quantiques.

Mais il s'agit, comme on dit, d'une autre histoire. Nous y reviendrons dans une suite à cette fiche de lecture que nous vous invitons à retrouver dans notre prochain numéro.

(a suivre)

Retour page d'accueil du dossier

Automates Intelligents © 2002