avril 2003
présentation par Jean-Paul Baquiast

Le défi des robots pensants

Le défi des robots pensants André Varenne L'Harmattan 2002

André Varenne est médecin. Sa carrière, nous dit la 4e de couverture, « a allié pratique médicale clinique, recherches et innovations technologiques ». Il s’agit d’un homme de culture, qui a publié deux autres ouvrages : - Toi, Trajan, treize entretiens avec un empereur païen au Paradis, L’Harmattan, 2000 (en collaboration avec Lino Rossi). - Il n’y a plus de médecins au numéro que vous demandez, sous le pseudonyme de Docteur XY, Editions Filipacchi, 1996. En savoir plus : Site d'André Varenne : http://perso.numericable.fr/~varandre/avarenne/ abvarenne@numericable.fr

André Varenne remarque, dans «Le défi des robots pensants, nos amis ou nos assassins» que cette question des robots passionne le grand public dans la plupart des pays, mais risque de laisser indifférents les lecteurs français, pour une raison malheureusement simple. Ceux-ci ignorent pratiquement tout des réalisations actuelles et des perspectives de la robotique, telle qu’elle est vraiment et non telle qu’elle est fantasmée dans les romans de science-fiction. Cela tient sans doute au manque de culture technologique qui caractérise encore nos contemporains, dans les domaines de l’informatique, de l’intelligence artificielle et de la robotique. Mais cela tient aussi au peu d’intérêt des décideurs économiques et politiques pour ces sujets.

C’est afin d’éclairer un tant soit peu cette ignorance que nous avions décidé voici deux ans de lancer notre revue Automates-Intelligents. Nous ne savons pas trop quelle a été sa portée, mais force est de constater que les livres écrits par des auteurs français et présentant la robotique à l’attention du grand public restent encore peu nombreux, au regard tout au moins de l’abondante littérature étrangère sur le sujet(1). Le livre d’André Varenne répond à un besoin indiscutable de vulgarisation. Il est donc bienvenu et nous ne pouvons qu’en recommander la lecture à tous ceux qui veulent cesser d'ignorer le sujet.

Avant de le discuter plus en détail, on peut se demander pourquoi c’est un médecin qui a pris la peine d’écrire un livre généraliste sur les robots, plutôt qu’un des nombreux chercheurs qui, dans les laboratoires et l’industrie, travaillent de près ou de loin sur ce thème. C’est sans doute parce qu’André Varenne fait partie de ceux pour qui les études médicales et la pratique clinique incitent à réfléchir au-delà des horizons professionnels immédiats. Il a sans doute pu concrètement apprécier les robots d’assistance chirurgicale ou les prothèses «intelligentes» développées entre autres par son confrère le Pr. Rabichong (Projet "Lève-toi et marche"). Mais manifestement c’est aussi par la voie de la littérature qu’il aborda la question. Il fait en effet une grande place, dans son livre, à la pièce de théâtre RUR (Rossum’s Universal Robots) du Tchèque Karel Capek, jouée pour la première fois en 1921. Ceux qui n’en avaient qu’une vague connaissance découvriront cette pièce et son destin, il est vrai assez extraordinaire. C’est elle qui a inventé et popularisé le terme de Robot, pour désigner ces créatures technologiques inventées par l’homme. La tradition en était ancienne, les exploitations légendaires ou littéraires qui en avaient été faites étaient nombreuses. Mais RUR a pour la première fois inscrit la problématique du robot dans le développement industriel et économique du 20e siècle, préfigurant les peurs qu’allaient provoquer ultérieurement d’autres découvertes, notamment celle de l’énergie nucléaire. L’intérêt d’André Varenne pour RUR est tel qu’à la fin de son livre il en propose une suite sous forme de scénario pour notre époque, tenant compte des technologies d’aujourd’hui(2) .

Mais «Le défi des robots pensants, nos amis ou nos assassins» ne se limite à des considérations littéraires. Il propose d’abord un rappel historique indispensable. On y trouve non seulement l’histoire des automates mécaniques tels ceux de Vaucanson, mais aussi celle des machines à calculer débouchant sur les ordinateurs après la 2e guerre mondiale. Les chapitres suivants peuvent être réparties en deux grandes catégories. La première est plutôt descriptive. Y sont évoqués les grands domaines d’application de la robotique. L’auteur ne s’en tient pas à la seule robotique, ce dont nous ne pouvons que le féliciter. Il n’hésite pas à franchir les frontières de cette discipline pour consacrer des chapitres à l'imitation du cerveau, à l’intelligence artificielle, à la vie artificielle et aux nanotechnologies. L’auteur a manifestement bénéficié de contacts stimulants avec les promoteurs américains de ces dernières, dont notamment le Foresight Institute. Les nanotechnologies n’intéressent pas uniquement la robotique et la vie artificielle, mais elles y joueront un rôle essentiel dans les prochaines décennies, rôle encore mal appréhendé actuellement et dont l'opinion, là encore, semble  en France se préoccuper assez peu.

Une réflexion philosophique et politique

Les autres chapitres composent nous l’avons dit une catégorie toute différente. Ils sont consacrés à une réflexion philosophique et politique sur l’avenir des robots, auxiliaires ou ennemis des hommes. Les principaux auteurs américains, que nos lecteurs connaissent bien, Kursweil, Moravec, notamment sont cités, ainsi que les prédictions généralement considérées (à tort?) comme farfelues du chercheur australien Hugo de Garis. L’intérêt de ces chapitres est que l’auteur ne se limite pas à l’anecdotique ou au sensationnel, comme le font d’autres écrivains français dont semble-t-il le fonds de commerce consiste à faire peur aux gens face aux développements des sciences et des techniques. Il propose des débats avec présentation du pour et du contre, ainsi concernant la question de savoir si l’on pourra réaliser un jour prochain des robots pensants. Par ailleurs et surtout, il situe très utilement les risques éventuels de la robotique et des nanotechnologies dans la question plus générale de «qui contrôlera qui» dans le monde de demain. Il a bien vu par exemple que le système d’écoute universelle américain Echelon, assisté de systèmes d’intelligence artificielle évolués, était déjà en passe de donner aux Etats-Unis les moyens de dominer le monde, si les autres pays ne se dotent pas de systèmes équivalents doublés de contre-mesures.

L’actualité s’accélère actuellement au regard de ces préoccupations, dont elle souligne la pertinence. Ainsi, dans ce même numéro nous présentons le livre extrêmement pessimiste de l’éminent scientifique britannique Sir Martin Rees. Ce dernier considère que les 50 prochaines années seront sans doute plus dangereuses pour la survie de l’humanité que toutes celles vécues jusqu’à présent. Les risques proviendront d’une utilisation militaire ou terroriste des sciences et technologies, mais aussi d’inévitables erreurs de manipulation. Nous consacrons également dans ce numéro une page à la présentation du Center for Responsible Nanotechnology récemment crée aux Etats-Unis par des chercheurs soucieux d’éviter les applications irresponsables des nanosciences.

Mais l’actualité, c’est aussi la guerre américaine contre l’Irak, qui a montré la détermination du Pentagone à mettre au service de ses stratégies expansionnistes les technologies les plus modernes. Celles-ci ont été utilisés sans états d’âme à l’encontre de militaires irakiens aux armements totalement obsolètes, avec dommages collatéraux nombreux dans les populations. Les Etats-Unis vont évidemment poursuivre leurs recherches en matière d’armements faisant appel aux sciences émergentes, accroissant de ce fait les risques d’erreurs et de fuites. De plus, on peut craindre que plus les technologies seront potentiellement dangereuses, plus le Pentagone imposera de mesures coercitives de surveillance au monde entier, jusqu'à la mise en place d’une dictature virtuelle mondiale d’un nouveau genre. Le risque, à court terme, en est beaucoup plus sérieux que celui d’une éventuelle révolte des robots (voir sur ce point notre article : Un scénario noir, de l’hyper puissance à l’hyper dictature).

Quelques observations

Revenons au livre d’André Varenne. Nous manquerions à notre rôle de critique si nous ne présentions pas quelques observations. Le lecteur aura compris d’abord qu’il ne s’agit pas d’un ouvrage véritablement scientifique. Il s’agit de ce que l'on pourrait appeler une vulgarisation intelligente, citant un grand nombre de sources, mais ne s’embarrassant pas de descriptions techniques. Ainsi le concept de robot «véritablement» autonome n’est-il pas approfondi, non plus que la programmation évolutionnaire auquel il fait appel (evolving programming).

Mais trois lacunes plus importantes nous ont surpris. L’auteur nous a paru passer très vite sur les biotechnologies, qui consistent comme on sait à utiliser les techniques de l’informatique et de l’intelligence artificielle à décrypter les génomes, explorer les liens entre gènes et protéines et finalement modifier les génomes puis, à terme, la plupart des espèces vivantes. C’est à cela qu’en principe le super-calculateur Blue Gene d’IBM, évoqué dans le livre, sera utilisé. Pour un médecin et un biologiste, il s’agit à la fois de perspectives très excitantes, mais aussi grosses de risques potentiels, car plus facilement utilisables par des terroristes que les robots ou les nanosystèmes. Le dossier Théma de Arte consacré le 15 avril 2003 aux perspectives de la guerre biologique est tout à fait révélateur à cet égard.

La deuxième lacune concerne le concept de conscience artificielle. Notre ami Alain Cardon a déjà consacré à cette question deux livres (en français) qui apportent pensons-nous des ouvertures autrement plus riches que celles actuellement présentes dans la littérature scientifique américaine et japonaise. Les applications en seront nombreuses, comme nous essayons de le montrer dans les différents ouvrages édités ou à paraître de notre collection Automates-intelligents.

La troisième lacune nous apparaît être d’ordre politique. Un tel ouvrage, sur un tel sujet, met implicitement en évidence les retards français, par rapport à ce qui se fait aux Etats-Unis et au Japon. Dans ce cas, il paraît indispensable d’analyser les raisons de ce retard et d’exhorter les décideurs de toutes sortes à se réveiller. La France est en guerre, qu’on le veuille ou non, et l’Europe avec elle. Ceux qui ont pris conscience du fait qu’elle n’a que des arcs et des flèches à opposer à des compétiteurs ou adversaires sur-armés doivent le dire, au risque de lasser les lecteurs plus attirés par le pittoresque que par la gravité.

Plus généralement, un livre comme celui d’André Varenne, qui n’hésite pas à situer la robotique dans l’histoire de l’évolution des systèmes intelligents, appellerait d’autres réflexions relatives à l’évolution plus générale de notre univers. Quel rôle y joueront à l’avenir la vie animale, l’humanité telle que nous la définissons, les systèmes techno-scientifiques capables de conscience ? Pèseront-ils d’une quelconque façon au regard de l’évolution des écosystèmes terrestres et extra-terrestres ? On ne peut pas reprocher à l’auteur de ne pas s’être lancé dans de telles considérations, qui relèvent d’ailleurs largement de la supputation. Les dimensions de son livre n’y auraient pas suffi. Mais peut-être les abordera-t-il dans un prochain ouvrage. Nous sommes persuadés qu'il aura beaucoup de choses à en dire.

Notes
(1) Rappelons ceux que nous avons recensés dans notre revue:
François Giamarchi. Les robots mobiles programmables
Cyril Fiévet. Les robots
Ainsi que
Jean-Philippe Rennard La vie artificielle
Gérard Chazal Chazal. Les réseaux du sens
(2) Sur RUR, voir http://www.uwec.edu/Academic/Curric/jerzdg/RUR/

Automates Intelligents © 2003