23 Mai 2002
Notes par Jean-Paul Baquiast

Flesh and machines

Rodney A. Brooks Pantheon Books, New-York, 2002 (anglais)

Rodney Brooks est Fujitsu Professor of Computer Science and Engineering au MIT et Directeur du Laboratoire d'Intelligence Artificielle de cet Institut. Il est aussi fondateur et président de iRobot Corporation Il a publié plusieurs livres et articles dont on trouve notamment les références sur son site web (voir ci-dessous). Pour en savoir plus Rodney Brooks, page personnelle : http://www.ai.mit.edu/people/brooks/index.shtml MIT Humanoïd Robotics Group : http://www.ai.mit.edu/projects/humanoid-robotics-group/ iRrobot Corp : http://www.irobot.com/home/default.asp Notre étude en date de mars 2000 : http://www.automatesintelligents.com/labo/2000/mar/brooks.html

Tous les roboticiens connaissent Rodney A. Brooks. Dans Flesh and Machines, il se présente lui-même comme directeur de la première institution technologique du monde, le Laboratoire d'Intelligence artificielle du MIT, lequel nous dit-il sans complexe est à la pointe de la créativité dans le domaine le plus chaud de l'évolution, j'ai nommé les technologies de l'information (p. 213). Il admet cependant partager cet honneur avec deux autres laboratoires du MIT, le Laboratory for computer sciences et le Media Laboratory, tous deux connus depuis longtemps en France. Rodney Brooks est également fondateur et président de la société privée iRobot Corporation chargée de la production et de la commercialisation des produits robotiques dérivés de ses recherches universitaires. C'est un des avantages des scientifiques aux Etats-Unis que pouvoir cumuler les deux statuts, public et privé.

Si tous les roboticiens, et bien d'autres, connaissent Rodney Brooks, on peut dire aussi que chacun l'envie dans la communauté des chercheurs en AI. Il se trouve aujourd'hui - grâce à son imagination et à son travail, n'en doutons pas - en mesure de porter un regard critique sur l'ensemble de la discipline, de développer ou faire développer tout ce qui est développable dans l'état des connaissances et finalement de proposer des hypothèses de recherche ou des vues stratégiques avec le maximum de crédibilité.

Rien ne l'avait prédisposé à atteindre, relativement jeune, une position aussi éminente, puisqu'il est né en Australie loin du grand courant d'enthousiasme technologique qui parcourait déjà les Etats-Unis. Mais il a su rejoindre ce courant, et en prendre dans une certaine mesure la tête. Les sciences permettent de temps à autres l'émergence de véritables mutants, dont on ne sait trop s'ils tirent leurs capacités d'une organisation intellectuelle meilleure que celle des autres ou d'une volonté acharnée à sortir des sentiers battus pour se faire reconnaître par la société.

On objectera que Rodney Brooks n'est pas le seul roboticien au monde. Il faut lui reconnaître en revanche le mérite d'avoir su parfaitement fait connaître ses travaux grâce à une communication intensive et, de ce fait, s'imposer par rapport à d'autres plus modestes. Communiquer d'une façon intelligente, c'est-à-dire en étant suffisamment explicite pour rendre son auditoire ou son lectorat plus intelligent, fait partie indéniablement du talent. Flesh and machines en donne un excellent exemple. Le lecteur en sort convaincu que l'auteur est très très doué, mais aussi et surtout que le domaine de la robotique est aujourd'hui (avec la génétique) celui qui va changer de façon radicale le regard que l'homme porte sur lui-même et sur son statut dans le monde. Comme nous en sommes nous-mêmes ici infiniment convaincus, nous ne pouvons que recommander la lecture de l'ouvrage.

Celui-ci en fait peut être regardé comme la synthèse de trois livres un peu différents mais qu'il ne faut pas séparer, car c'est de leur conjonction que naît la pertinence du regard global porté sur le domaine.

Le robot situé et incorporé

Le premier "livre" illustre de façon très claire la conception que l'auteur se fait de la robotique et plus généralement de l'IA. On sait que Rodney Brooks a relancé les recherches dans un domaine qui végétait en rejetant catégoriquement les illusions de l'ancienne IA, celle qui pensait pouvoir comprendre le fonctionnement du cerveau et résoudre les problèmes mathématiques et stratégiques les plus complexes. Cette IA construisait des descriptions mathématiques du monde et prétendait programmer des solutions permettant de s'adapter à de tels mondes définis a priori. Dans une histoire rapide de la robotique, Brooks montre que cette ambition était sans issue, notamment dans le domaine qui est devenu le sien, la robotique. On ne savait pas comment fonctionnaient les animaux et les hommes qu'il s'agissait d'imiter, aussi les modèles robotiques que l'on prétendait en faire devenaient très vite d'une complexité ingérable. Finalement, les comportements que l'on voulait imposer aux robots étaient d'une telle lourdeur et d'une telle lenteur qu'ils déconsidéraient l'ensemble de la discipline - sans mentionner le fait que les composants électroniques de l'époque étaient trop rustiques pour servir des ambitions si élevées.

Ces premières tentatives eurent cependant l'avantage de faire apparaître un phénomène majeur : la complexité et l'imprédictabilité d'un comportement d'ensemble résultent de petites variations dans la façon dont un petit nombre d'actuateurs (entrées-sorties) interagissent avec le monde. C'est ce que montrèrent notamment les "tortues" de William Grey Walter, expérimentées dans les années 1950, avec des techniques d'une totale rusticité. L'orientation était bonne, mais malheureusement les progrès des calculateurs la ruinèrent. Avec ceux-ci, mathématiciens et informaticiens l'emportèrent sur les ingénieurs ou simples bricoleurs. La tentation de construire des robots navigant dans un monde modélisé a priori en 3 dimensions l'emporta, en rendant de mauvais services à la recherche, puisque fut perdue l'idée anticipatrice de Walter, selon laquelle l'interaction avec l'environnement devait servir à éduquer ses tortues. La robotique enregistra les échecs relatifs du robot Shakey du Stanford Research Institute (SAIL) , puis celui d'autres tentatives, Hilare du LAAS en France, puis plus tard le CART du Standford AI Laboratory, sous la responsabilité de Hans Moravec.

On sait que dans le même temps les ambitieux projets de l'AI, notamment en traduction automatique des langues ou en reconnaissance des formes, échouèrent également devant les difficultés de la méthode consistant à modéliser de façon aussi complète que possible, par la mathématique et la logique, les objectifs à atteindre et les solutions à adopter. La complexité ne cessait d'augmenter au fur et à mesure que progressaient les premières tentatives. En aucun cas, nous dit Rodney Brooks, les premiers robots n'étaient des créatures artificielles interagissant par leurs propres moyens avec le monde. Il s'agissait plutôt de projections de l'intelligence de leurs inventeurs, sans base dans le monde réel.

Rodney Brooks nous raconte comment, venant d'Adélaïde en Australie, il rejoignit le SAIL au début des années 1980. Là après diverses péripéties et rencontres, il décida de construire son propre robot mobile, avec quelques autres étudiants. Mais au lieu de coordonner les entrées et sorties du robot par l'intermédiaire d'une centrale de connaissances (cognition box), il décida purement et simplement de supprimer celle-ci. Ce fut le premier pas décisif de la méthode de Rodney Brooks : si quelque chose paraît trop compliqué à faire, il faut s'en passer, à l'instar d'ailleurs de l'évolution dans la nature qui n'a jamais construit de solutions complexes d'emblée, mais par petits pas en conjuguant des choses simples. Il explique qu'il ne voulait pas initialement abandonner les méthodes mathématiques et de résolution de problèmes utilisées par ses prédécesseurs, mais qu'il s'était résolu à faire émerger celles-ci de capacités plus simples à percevoir, se déplacer, naviguer et prendre de petites décisions - jusqu'au jour où il put s'en passer définitivement.

Le livre décrit en détail, avec organigrammes fonctionnels à l'appui, l'architecture du robot Genghis de Rodney Brooks, qui succéda aux prototypes Allen et Herbert. Ceux-ci ont été conçus en s'inspirant des insectes, ou du moins de ce que l'on connaissait des insectes à l'époque: réaliser un système de contrôle pour une tâche sensorielle ou motrice simple, et additionner sur une plate-forme adéquate plusieurs de ces systèmes de façon à obtenir progressivement un comportement plus fin. C'est ce qu'il appelle l'architecture de subsomption (subsumption architecture, de sub sumere, placer la partie dans un ensemble). Le robot Genghis était organisé comme la somme de cinquante et un petits programmes simples, analogues en complexité à ceux d'une machine à café, nous dit l'auteur. Il était doté de 6 pattes mues par des moteurs indépendants et pouvait grâce à une batterie de senseurs pyrro-électriques détecter la chaleur d'un animal, et donc suivre un humain dans une pièce. Genghis fut la première de ce que Rodney Brooks baptisa des machines à état fini augmentées (augmented finite-state machine). Dans le système d'ensemble, chaque machine individuelle calculait une sortie servant d'entrée à une ou plusieurs autres, le tout donnant l'impression d'une intentionnalité, évoluant selon sa propre volonté dans un univers non prévu à l'avance. Il s'agissait bien d'une créature artificielle, et non d'un robot appliquant servilement des programmes conçus par les ingénieurs.

A partir de Genghis, Rodney Brooks et son équipe abordèrent une période féconde qu'ils appelèrent leur ère cambrienne, donnant naissance à divers robots de complexité croissante, appliquant deux principes de base : être situé (situatedness) c'est-à-dire plongé dans le monde réel avec lequel le robot réagit plutôt que répondre à des principes d'action abstraits, et être incorporé ou incarné (embodiment) c'est-à-dire disposer d'un corps physique avec lequel percevoir le monde et agir sur lui. Mais nulle part ces robots n'étaient dotés ni ne se dotaient de représentations complètes du monde et de leurs actions, au contraire de ce qu'étaient supposés faire sans succès au même moment le robot Ambler de Carnegie Mellon, par exemple. Plus généralement les robots de Rodney Brooks exploitaient trois principes dont le laboratoire fit sa devise "fast, cheap and out of control" : rapidement, bon marché et sans contrôle a priori. On retrouve là les principes de base qui firent ultérieurement le succès des applications bien conçues sur Internet.

On lit sans surprise les ennuis que ces principes révolutionnaires apportèrent à leurs auteurs. Exposés dans le monde académique, ils ruinèrent la carrière de Rodney Brooks et de ses élèves, car ils contredisaient des années d'efforts dans l'IA traditionnelle. Ceci conduisit notre inventeur à créer une société commerciale, ISRobotics (devenue depuis iRobot Corp) , pour trouver des clients dans le monde industriel. Cependant, les grands donneurs d'ordre eux-mêmes, comme le Jet Propulsion Laboratory et la NASA virent également ces principes d'un mauvais œil, appliqués à leurs projets de robots lunaires ou martiens traditionnels, gros consommateurs en crédits qu'ils ne souhaitaient pas voir diminuer. Après de nombreuses péripéties, cependant, le robot martien Sojourner, inspiré en partie des solutions de Rodney Brooks, démontra qu'il pouvait, après plusieurs jours sous contrôle à distance par la Terre, explorer seul, livré à ses propres initiatives, le monde martien. Ce fut un grand succès pour l'équipe (juillet 1997).

Précédemment, à partir de 1993, Rodney Brooks s'était engagé dans la voie fructueuse de l'exploration des relations entre hommes et robots, à partir là encore de procédures relativement simples à l'origine, tel que l'échange par le regard. Ces travaux aboutirent d'abord au fameux robot Cog, qui n'a cessé de s'enrichir depuis, et sert de plate-forme de développement à de nombreuses applications. Mais là encore Cog n'était pas humanoïde au sens où le définissaient dans le même temps les industriels japonais. Les robots humanoïdes d'Honda, par exemple, étaient peut être plus proches de l'homme que Cog, par l'apparence, mais ils restaient pour l'essentiel sous le contrôle d'un opérateur.

Kismet, dérivé de Cog et développé sous la direction d'une élève de Brooks, Cynthia Brenzeal, se présente aujourd'hui sous la forme d'une tête robotique, avec de très grands yeux très perfectionnés, qui ont permis d'approfondir les processus de la vision chez l'homme, et leur rôle dans l'interaction sociale. La méthode des petites boîtes ajoutées les unes aux autres sur le modèle de Genghis, rendirent possibles des performances qui paraissent remarquables au profane, par exemple identifier un visage humain ou suivre le regard d'un interlocuteur, en réagissant à son humeur. Cependant, en l'état actuel, ces performances ont encore des limites. Par exemple, Kismet ne peut reconnaître l'âge des gens ou la façon dont ils sont vêtus. Mais on peut prédire que ces limitations tomberont les unes après les autres.

Que peut-on dire de ces recherches par rapport à celles qui se poursuivent dans d'autres laboratoires. Elles représentent d'abord un très important investissement au niveau des techniques robotiques, avec des senseurs et des actuateurs très perfectionnés, des plate-formes très polyvalentes. Sans ces moyens matériels, il est difficile de faire avancer rapidement de bonnes idées, fussent-elles révolutionnaires. Mais il faut se poser une autre question, plus fondamentale : Brooks et ses collègues feront-ils encore progresser la robotique, s'ils se bornent à enrichir encore et encore le concept d'un Cog ou d'un Kismet ? On pourrait envisager qu'à force de superposer des senseurs et actuateurs de plus en plus divers et performants, en organisant des interactions avec des environnements de plus en plus complexes, ils aboutissent à des robots qui seraient presque entièrement comparables en complexité à des hommes et qui en auraient les richesses en intentionnalités et en sentiments. Mais ne leur manquerait-il pas une dimension, qui serait celle de l'évolution spontanée, en dehors de toute intervention humaine, y compris pour ce qui concerne les finalités ultimes. Brooks se flattait de produire des robots "out of control". Mais il concevait cela sur le plan du détail des comportements. Peut-être pas au point d'encourager l'apparition de robots différents de l'homme, différents des animaux eux-mêmes, de robots ne servant à rien a priori, tels que ceux découlant d'une évolution affranchie des contraintes autant de la biologie que de la pensée humaine. On pourra relire à ce sujet les propos de Jean-Arcady Meyer et Agnès Guyot, présentés dans notre revue en date d'octobre 2001. Ils montrent bien les différences d'approche entre eux (malheureusement dotés de peu de moyens matériels) et l'équipe du MIT. Rodney Brooks insiste davantage, selon eux, sur l'apprentissage et le développement cognitif que sur l'évolution. On notera d'ailleurs que Brooks ne fait pas allusion dans son livre aux algorithmes évolutionnaires et semble ne rien attendre de toutes les méthodes de la vie artificielle, par exemple les automates cellulaires, qui selon lui ne progressent plus depuis 20 ans. Ce n'est pas le point de vue de Stephen Wolfram, dont le livre "A new kind of science" vient enfin de sortir, et que nous présenterons dans un prochain numéro.

Cela dit, il est probable qu'à terme, sauf rupture paradigmatique toujours possible, les différentes façons de concevoir les robots, comme plus généralement l'IA, convergeront au lieu de s'exclure compte tenu de l'importance déterminante que prennent déjà et que continueront à prendre les robots dans la société humaine.

L'avenir des robots selon Brooks

Le deuxième contenu que l'on peut identifier dans Flesh and Machines porte sur les perspectives de la robotique selon Rodney Brooks. Celui-ci n'est pas atteint par le doute face à ces technologies et à leurs usages. Il leur prédit un avenir radieux, et d'abord dans le domaine des applications susceptibles de trouver un marché, les applications tueuses. Il en voit deux grandes catégories. Les premières ne posent pas de problèmes philosophiques. Elles suscitent seulement, selon nous, la question de savoir si elles seraient bien opportunes, dans un monde où 4 à 5 milliards de personnes vivent au dessous du seuil de pauvreté. Brooks n'a pas de tels états d'âme. Les applications robotiques trouvent et trouveront de plus en plus usage, nous dit-il, dans ce que nous pourrions appeler les classes moyennes et supérieures de la société américaine. Elles méritent donc d'être développées. Nous avons droit à la présentation du robot ménager, du robot tondeuse à gazon, du robot chien de garde et autres auxiliaires de la vie de la ménagère de moins de 50 ans ou du cadre surmené. Ces robots se conjuguent avec l'Internet de sorte qu'ils peuvent être mis en œuvre d'un hémisphère à l'autre. Cela dit, a-t-on besoin d'un robot pour tondre sa pelouse - ce qui ne se fait pas sans mal à en croire les descriptions de l'appareil que donne notre auteur ? Ne serait-il pas plus sain de pousser soi-même une tondeuse mécanique ? Brooks répond à cela que l'on pouvait aussi se passer d'un verrouillage automatique des portes dans une voiture, mais que maintenant ce dispositif est devenu incontournable. Certes. Mais il oublie de dire que l'avenir ne permet pas aujourd'hui d'envisager la généralisation d'une voiture par personne à l'ensemble du monde, sauf à faire exploser la planète. Les exigences du développement durable imposeront peut-être à renoncer à certains robots purement physiques, au profit de services comme ceux du télé-enseignement, dont le tiers-monde ressent beaucoup plus le besoin.

Mais il est d'autres applications, évoquées dans le livre, qui sont beaucoup plus intéressantes. Ce sont toutes celles visant à construire des prothèses, dans le sens de ce que l'exposition récente à la Cité des sciences et de l'industrie de la Villette appelait "L'homme transformé". Dans cette perspective, Brooks va d'ailleurs beaucoup plus loin que la seule réparation : il envisage sereinement la greffe, sur le mode du cyborg, d'éléments robotiques à la place des organes ou en relais du fonctionnement des cerveaux. Nos lecteurs connaissent ces perspectives. Elles font peur à beaucoup de moralistes. Que deviendra l'homme dans tout cela (sans parler de l'animal) ? Pour nous, en conjugaison avec l'ingénierie génétique, il s'agit à terme d'une nouvelle forme d'évolution des espèces vivantes, qui modifiera sans doute radicalement l'avenir de l'humanité et du monde lui-même, mais qu'il n'y a pas de raison de refuser. Rodney Brooks, pour ce qui le concerne, n'en a pas peur, au contraire. Il attend manifestement ces changements avec la plus grande impatience. Là encore, cependant, on pourrait lui reprocher de refermer un peu trop vite la boucle évolutive sur l'homme tel qu'il est aujourd'hui. La vraie vie artificielle évolutionnaire, comme la vraie IA ou la vraie conscience artificielle, conjuguées ou non avec ce qui restera des corps et des esprits des hommes, devraient pourvoir se développer le plus librement possible, out of control au sens propre du terme. Sans cela l'évolution tournera en rond, en nous reconduisant au modèle à peine amélioré du citoyen de la classe moyenne américaine d'aujourd'hui.

L'homme est une machine

En fait, nous faisons là un mauvais procès à Rodney Brooks, car il ne manque quand même pas d'audace dans les considérations philosophiques qu'il nous propose également. Celles-ci constituent le troisième livre à l'intérieur du livre principal. Il cherche à y préciser les statuts respectifs de l'homme et du robot, c'est-à-dire de la machine. On trouve en fait plusieurs hommes en Brooks, dont l'un est par la force des choses attaché aux réalités du marché et des business plans, puisque sa société en vit, et dont l'autre s'envole beaucoup plus haut. Or nous devons saluer dans ce dernier, le Brooks philosophe, un courage intellectuel certain, courage que nous retrouvons chez beaucoup de scientifiques américains s'annonçant résolument matérialistes dans un pays qui ne cesse d'invoquer Dieu au secours de ses institutions, et dont beaucoup d'Etats acceptent encore de voir enseigner le créationnisme.

Pour lui, il n'y a pas de différences, sinon de degré, entre l'homme, l'animal et le robot tel qu'il le conçoit, soit un Cog amélioré. Ces trois catégories de représentants du monde vivant (ou du monde des machines, ce qui est pareil) sont bâtis sur les mêmes principes architecturaux (l'architecture de subsomption), fonctionnent et s'enrichissent en contenus cognitifs de la même façon, par interaction corporelle située avec le monde, et finalement génèrent des représentations de celui-ci de même nature, tant au plan rationnel qu'au plan des affects. Les hommes contemporains refusent encore de l'admettre, mais il s'agit d'une survivance tribale. On ne devrait donc pas faire de distinctions tranchées entre hommes et machines, ni surtout tirer de frontières définitives. Ils convergeront, en s'enrichissant réciproquement. L'homme en tous cas, doit dès maintenant apprendre à aimer les robots qu'il crée. Ainsi, il contribuera à les hisser plus rapidement dans l'échelle évolutive. On voit là que Rodney Brooks, de façon très sympathique, refuse de voir dans le robot un monstre froid et inhumain, sur le modèle du Hal de l'Odyssée de l'espace, qui n'était en fait qu'une projection des peurs d'un cinéaste ne connaissant rien à la robotique.

Le livre pose néanmoins la question des questions, que Rodney Brooks a repris dans un article que nous avons cité dans un précédent numéro. Si l'homme, l'animal et le robot sont de même essence, l'homme pour sa part est-il capable de comprendre cette essence, c'est-à-dire est-il capable, avec son cerveau et sa science encore limités, de comprendre la spécificité de la vie. Rodney Brooks s'étonne de voir que la vie artificielle, aussi performante soit-elle, est encore incapable de simuler la vraie vie, celle qui permet par exemple la réplication d'un ADN à travers une enzyme, en introduisant des erreurs fécondes de réplication. Il ne peut donc pas construire des entités artificielles dotées des mêmes capacités. Quelque chose nous échappe-t-il encore ? Rodney Brooks le pense mais il ne voit pas de quoi il pourrait s'agir. Il faut continuer à chercher, mais dans quelles directions ? Et avec quel espoir d'aboutir ? Notons qu'il n'imagine pas que des intelligences artificielles délibérément non humaines produites par une évolution artificielle vraiment out of control puissent apporter des réponses à ces questions.
Or, depuis que Rodney Brooks a écrit son livre, il se trouve que d'autres scientifiques venant du monde de la biologie moléculaire ou des nanotechnologies pensent pouvoir proposer des pistes de recherche, en faisant appel à la mécanique quantique. C'est le cas de Johnjoe McFadden, dont nous présentons par ailleurs une interview dans ce numéro. Ce pourrait être aussi celui d'Alain Cardon, dans le domaine des systèmes purement informatiques : on lira à ce propos les minutes de la conférence qu'il a prononcée au Colloque Biologie et conscience, le 27 avril dernier au CNAM à Paris.
Est-ce que ces hommes ne détiendraient-ils pas déjà chacun, sans le savoir encore, un des morceau de la clef du monde ? Ne suffirait-il pas maintenant qu'ils se retrouvent et travaillent ensemble, également avec des gens comme Rodney Brooks, pour que cette clef apparaissent à tous ?

Automates Intelligents © 2002