28 août 2002
Notes par Jean-Paul Baquiast

Dossier super-intelligences

Super-intelligences et développement durable : discussion des propositions de Hans Moravec
Retour à la page d'accueil

Hans Moravec Robot. Mere Machine to Transcendent Mind Oxford University Press, 1998

Hans Moravec est un des leaders mondiaux en matière de recherche robotique, qu'il a pratiquée depuis 1970. Il dirige actuellement un programme sur 10 ans à la Carnegie Mellon University, visant à réaliser avant 2010 la production industrielle de robots universels utilitaires. Il est aussi l'auteur de M.I.N.D. Children, The Future of Robots and Human Intelligence, Harvard University Press, Cambridge, Massachusetts, October 1988 - Version française : Une Vie Après la Vie, Odile Jacob, 1992, ainsi que d'un très grand nombre de rapports et d'articles traduits dans de nombreuses langues. Pour en savoir plus Hans Moravec. Site personnel : http://www.frc.ri.cmu.edu/~hpm/   Voir aussi Interview (Nov 1998) http://www.robotbooks.com/Moravec.htm Images et commentaires concernant le livre http://www.frc.ri.cmu.edu/~hpm/book98/ Robots, Re-Evolving Mind 2000. Article. On y retrouve, actualisés, les principaux thèmes de Robot http://www.frc.ri.cmu.edu/~hpm/project.archive/robot.papers/... Voir aussi Ripples and puddles http://www.frc.ri.cmu.edu/~hpm/project.archive/robot.papers/2000/... Voir aussi notre précédente chronique de la lère partie du livre

Dans la chronique de notre précédent numéro consacrée à la discussion du livre très stimulant de Hans Moravec "Robot, Mere Machine to transcendent Mind", nous avions réservé l'examen des deux derniers chapitres de l'ouvrage à un article ultérieur. Compte tenu de l'actualité représentée par le déroulement du sommet de la Terre qui s'est tenu à Johannesburg à la fin du mois d'août dernier, il semble judicieux de poser la question de savoir si les super-intelligences et super-robots envisagés par Hans Moravec, Ray Kurzweil et autres "visionnaires" de l'intelligence artificielle "forte" contribueront ou non à diminuer les tensions du monde actuelles. En d'autres termes, joueront-ils, et à quelles conditions, un rôle déterminant en faveur de ce que l'on nomme désormais le développement durable ? Rappelons que, sous le terme de développement durable, se conjuguent aujourd'hui les exigences des environnementalistes, visant à sauver l'écosystème mis en danger par les modalités actuelles du développement, et celles plus politiques des adversaires de la mondialisation libérale. Selon ces derniers, il faut modifier en urgence, par des interventions régulatrices internationales, le fonctionnement du système capitaliste dit néo-libéral. C'est en effet ce système qui génère les inégalités entre le Nord et le Sud, d'où découlent la destruction de l'environnement physique et biologique, la poursuite de l'explosion démographique et l'aggravation des tensions belliqueuses.

Beaucoup de scientifiques et d'experts considèrent que seul un progrès accéléré des technologies et sciences dites douces ou non polluantes pourrait sauver la planète de la contradiction entre croissance et effondrement écologique dans laquelle elle est aujourd'hui enfermée. Parmi ces sciences et technologies, il faut évidemment compter tout ce qu'apportera le développement exponentiel prévu des systèmes intelligents et super-intelligents, qu'il s'agisse des robots proprement dits ou d'entités et réseaux à base d'informations et d'intelligence artificielle.

Les deux derniers chapitres de Robot, l'âge des robots et l'âge de l'esprit, esquissent ce que sera une société où les machines intelligentes, associées aux hommes selon des modalités qui, selon Hans Moravec, devraient se préciser sans conflits, pourraient changer le monde terrestre et son environnement cosmique, mais aussi - plus fondamentalement - nos connaissances scientifiques du monde, encore enfermées dans les concepts vieux de bientôt un siècle des relativistes et des physiciens quantiques.

Moravec va très loin dans la prédiction, à la limite de la science-fiction, puisqu'il consacre de longues et d'ailleurs passionnantes pages à discuter ce que sera l'expansion de l'humanité dans le cosmos (qui selon lui devrait se révéler dans quelques décennies beaucoup plus accessible qu'il ne semble l'être au vu de nos représentations scientifiques actuelles). Ceux qui quitteront la Terre de façon temporaire puis définitive ne seront plus exactement des hommes. Il les appelle les Ex (ex-humains). Mais peu importe. Ils porteront aux confins de l'univers les sciences, les technologies et les formes d'intelligence s'esquissant actuellement sur Terre dans les laboratoires de robotique et d'intelligence artificielle. Ils évolueront et se perfectionneront comme les entités biologiques et cosmologiques(1) que nous connaissons, c'est-à-dire dans le cadre d'une compétition darwinienne permettant l'émergence continue de solutions de plus en plus néguentropiques (complexes) et adaptées.

Usines sans ouvriers

Le lecteur devra lire ces chapitres. Pour notre part, nous voudrions ici nous limiter à discuter de la première phase d'un tel développement, caractérisé par la généralisation de modes de production de plus en plus robotisés. Par ce terme, on désignera non seulement l'utilisation de robots industriels ou de gestion adaptatifs ou intelligents, mais plus généralement le recours aux technologies dites encore du futur aujourd'hui, telles que les nanotechnologies, les biotechnologies et les technologies spatiales.

Depuis le milieu du 20e siècle, l'automatisation s'est généralisée dans le monde entier, suite à la révolution industrielle apparue au début du 19e siècle. Ceci s'est d'abord traduit par la mécanisation et l'informatisation des processus primaires, en permettant d'innombrables progrès de productivité. D'indéniables améliorations du niveau de vie des populations en ont découlé. Mais s'étant exercée dans le cadre du capitalisme libéral, afin d'apporter prioritairement un profit immédiat à l'entreprise, l'automatisation a produit aussi ce que certains ont appelé l'horreur économique : chômage et délocalisations industrielles, exploitation des pays sous-développés et de leurs habitants les plus pauvres, etc. Aujourd'hui, sans en revenir au Luddisme (mouvement de destruction des métiers à tisser apparu en Angleterre au début du 19e siècle), beaucoup de gens seraient tentés de freiner la robotisation et plus généralement la recherche de nouvelles techniques de production , de peur de voir des technologies nouvelles mal maîtrisées démocratiquement accélérer la domination des entreprises transnationales sur le monde en ruinant les efforts en faveur du développement durable.

Hans Moravec est bien conscient du risque. Il esquisse donc un projet de politique économique inspiré d'une sorte de néo-keynesianisme sympathique. Il part du postulat que l'essentiel de la production à valeur ajoutée proviendra prochainement d'usines ou processus robotisés ou pilotés par des dispositifs automatiques intelligents. Ces usines et processus tourneront presque sans hommes. Ils ne rémunéreront donc directement qu'un très petit nombre de personnels. Dans une certaine mesure, par ailleurs, leurs coûts d'investissement et de production diminueront régulièrement (du fait de la baisse continue des coûts technologiques), réduisant les besoins d'investissement en capital et donc les distributions de dividendes. Si rien n'est fait, c'est-à-dire si le système d'ensemble demeure régi par les règles du capitalisme libéral, on assistera à la mise sur le marché de biens de plus en plus nombreux, mais dépourvus de clients pour les acheter. Le monde se réduira à l'affrontement de minorités de capitalistes et de scientifiques disposant de tout le savoir productif du monde, face à une immense majorité de gens sans ressources pour se procurer les biens potentiellement disponibles. Il s'agirait d'une situation aussi absurde que sans issue.

Certains lecteurs objecteront que la situation ainsi décrite est purement théorique. C'est pourtant ce qui se passe depuis les débuts de la mécanisation et de l'automatisation, y compris en agriculture: le nombre et la rémunération des salariés de production diminuent, si bien que les biens produits ont de moins en moins de débouchés et vont emplir les entrepôts de stockage, alors que les besoins potentiels ne cessent de s'accroître. On se souvient que dans les années 1930, avant l'apparition de la sécurité sociale en Europe, Henry Ford en était arrivé à consentir des prêts à ses ouvriers pour qu'ils achètent des voitures.

Pour éviter cela, Hans Moravec propose que les entreprises robotisées soient taxées et que le produit de ces taxes soit redistribué aux populations dans le besoin afin que celles-ci puissent continuer à entretenir  par leurs achats la production et le progrès technologique. Peu importerait alors qu'il y ait des chômeurs, en occident ou dans le tiers-monde, si ceux-ci recevaient des allocations correspondant grossièrement au salaire qu'ils auraient perçus dans leurs anciennes entreprises. Ils pourraient pratiquement vivre à ne rien faire, ou développer leur personnalité par la culture et les loisirs, pendant que les robots travailleraient à leur place. Ce système reposerait cependant sur de petites minorités de cadres et ingénieurs très qualifiés qui le feraient fonctionner et se développer - ou plutôt qui géreraient les bonnes idées que les robots intelligents pilotant les processus automatisés pourraient leur suggérer.

Hans Moravec est averti des problèmes que pose la mondialisation libérale en permettant aux entreprises de fuir dans des paradis fiscaux et réglementaires tout effort de régulation. Aussi suggère-t-il, dans le droit fil de la revendication actuelle des adversaires de la mondialisation libérale, que des systèmes politiques transnationaux, sur le modèle des organisations internationales et de certains traités multilatéraux, mondialisent les taxations et les protections réglementaires, de façon à ce que nul ne puisse y échapper. Il compte sur la compétition inter-entreprises pour que celles d'entre elles ne respectant pas les nouveaux codes de la moralité globale soient éliminées par les autres.

Les économistes et sociologues avertis reprocheront sans doute à ces vues d'être un peu simplistes, et d'évacuer d'innombrables problèmes soit transitoires soit durables. Nous pouvons quand même trouver là un écho intéressant des préoccupations que se posent, comme nous l'avons dit plus haut, les gens soucieux de conjuguer l'accélération du progrès technologique, l'amélioration des niveaux de vie des plus démunis et finalement la protection de l'environnement. Mais il faudrait développer ces perspectives dans un ouvrage beaucoup plus fouillé et argumenté que Robot.

Bornons-nous ici à reprendre la question posée par Moravec, d'une autre façon. Le problème est simple à formuler, mais il appelle des solutions qui demeurent confuses pour de nombreux esprits, même disposant d'une culture économique minimum.

Trois priorités

Posons en principe que la science permet aujourd'hui à l'humanité de s'engager dans l'utilisation de technologies de plus en plus innovantes, faisant largement appel aux ressources des moyens intelligents de computation. Ceci permettra la robotisation progressive des processus de fabrication-distribution-recherche. L'industrie, l'agriculture et les services seront à divers titres concernés Mais ceci permettra aussi l'apparition de nouvelles méthodes encore aujourd'hui dans l'enfance pour la satisfaction des besoins primaires de l'humanité tout en protégeant l'environnement : généralisation des énergies renouvelables, recyclage des déchets et eaux usées, fabrication d'aliments et de produits pharmaceutiques de synthèse, méthodes nouvelles de reconstitution des biotopes, etc. On y ajoutera évidemment la mise en place de réseaux de formation et de connaissances distribuées permettant à chacun d'accéder aux contenus culturels et scientifiques, comme d'y apporter sa contribution.

La première priorité consistera à amorcer le système de production intelligent ainsi défini, puis à assurer son développement vers des technologies de plus en plus productives et de moins en moins nuisibles.. Il s'agira de réaliser des investissements scientifiques et technologiques qui seront toujours à la marge de la rentabilité à court terme, et qui de toutes façons imposeront au début un effort de financement considérable, dont les bénéfices n'apparaîtront qu'à terme. On sera loin des budgets actuellement consentis par le Nord pour le développement du Sud, ni même des budgets de recherche militaire et scientifiques occidentaux. Seuls les Etats ou de futurs organismes publics de financement (non-profit) pourront s'en charger à une échelle suffisante. A supposer que de tels organismes voient le jour, où trouveront-ils l'argent nécessaire s'ils ne disposent pas de contribuables ou de préteurs potentiels ? C'est la question principale, sur laquelle nous reviendrons.

La deuxième priorité, une fois le système mis en route et pouvant fabriquer des biens de plus en plus abondants et de moins en moins chers, sera de résoudre le problème du consommateur solvable. Les nouveaux laboratoires de recherche, les nouvelles technologies de fabrication emploieront du monde, certes bien payés, mais ne pourront donner de l'emploi rémunéré à tous. En fait elles nécessiteront une large participation des populations bénéficiaires, mais celles-ci, surtout dans le tiers-monde, devront, initialement du moins, y travailler presque gratuitement, sauf à surcharger les coûts de façon insupportable. On en voit déjà l'exemple avec les expériences d'agriculture en milieu aride ou d'énergie solaire menées par certaines ONG en zone tropicale. Ce ne sera qu'au bout de plusieurs décennies qu'il sera possible d'obtenir de nouveaux emplois bénéficiaires, mais là encore en très petit nombre par rapport à ce que permettent les usines traditionnelles.

Il faudra donc que les pauvres et les très pauvres, à qui une grande partie des nouvelles productions douces devrait être finalement destinée (afin de réduire les inégalités génératrices des tensions catastrophiques actuelles) puissent y accéder quasi gratuitement. En contre-partie de quoi, comme nous venons de le voir, ils devront être associés à l'insertion sociale des nouveaux produits et des nouvelles méthodes de production. Le travail ne manquera pas, mais nécessitera une imagination dans la recherche de moyens d'animation et de participation qui ne pourront reposer sur les méthodes anciennes de l'autoritarisme politique sur le mode stalinien.

La troisième priorité, au moins aussi importante que les deux précédentes, sera de fournir des occupations intelligentes aux gens qui ne seront pas requis par les activités de production et de recherche proprement dites. La logique du développement des processus robotisés fera en principe que les besoins élémentaires ou même certains besoins plus sophistiqués pourront être satisfaits avec une quantité de travail humain de moins en moins importante. Ceci étant, peut-on penser que l'emploi global diminuera forcément ? Il y aura, comme nous l'avons vu, d'innombrables activités induites qui correspondront à l'insertion de détail des nouvelles technologies dans des sociétés restant encore largement traditionnelles. Mais ces activités ne pourront être directement rémunérées. Elles représenteront une contribution en nature des bénéficiaires des nouvelles technologies.

Une autre source d'activité viendra du fait que les nouveaux processus de production, même largement robotisés, créeront par leur développement même de nouveaux emplois. C'est ce que l'on a vu d'ailleurs depuis cinquante ans en ce qui concerne le secteur de l'informatique et des télécommunications. Mais ces emplois n'apparaîtront que progressivement.

On peut cependant penser que globalement, le temps de travail diminuera, ce qui pose la question des loisirs. Tout le monde en fait sera concerné, car il ne serait pas envisageable qu'une petite minorité de gens continuent à travailler à plein temps (sauf à la faire à titre bénévole), les autres vivant dans le loisir comme paraît-il le faisaient les naturels des îles tropicales une fois leur nourriture assurée par quelques heures de cueillette au sein d'une nature généreuse. Il faudra donc partager le travail utile et surtout utiliser les loisirs nouveaux. Considérera-t-on que chacun devra faire ce qu'il voudra de son temps libre ? Voudra-t-on organiser des loisirs intelligents en multipliant les occasions de formation, de recherche et d'investissements personnels et collectifs dans diverses activités culturelles et scientifiques ? Faudra-t-il faire plus encore, par exemple sous la forme d'un encouragement collectif intense en faveur de grands programmes d'exploration des mondes inconnus, sur la Terre et dans l'univers extra-terrestre ? C'est cette dernière perspective que nous propose Moravec, en décrivant des projets futuristes comme celui de l'"ascenseur spatial". Nous ne pouvons que le suivre dans cette dernière perspective.

Dans tous ces cas, qui paiera ou qui fournira les ressources humaines nécessaires ? Comme il s'agira d'activités reposant sur le volontariat et le bénévolat, beaucoup de celles-ci seront prises en charge par les acteurs eux-mêmes. Mais il restera des investissements importants à financer au plan collectif.

C'est pour répondre à cette question lancinante des sources de financement qu'il faut faire un effort d'imagination politique. La production disponible proviendra pour l'essentiel de la valeur ajoutée par la production robotisée et par les technologies émergentes utilisant de plus en plus d'intelligence et de moins en moins de biens rares et coûteux. Ainsi, ce seront moins finalement les ressources en argent qui seront nécessaires que les ressources en intelligence. Or celles-ci pourraient être obtenues de façon presque gratuite, si grâce aux réseaux et aux différents moyens du travail coopératif (éventuellement bénévole) on ajoutait ou associait les super-intelligences artificielles de demain à celles des quelques 8 à 10 milliards d'habitants de la Terre.

Il reste cependant, nous l'avons vu, que des investissements considérables devront, au moins initialement, être apportés par les sociétés riches au profit de l'humanité toute entière. Les entreprises, même les plus florissantes, ne pourront seules assumer cette charge. Les Etats en sont encore moins capables. La seule façon de faire, comme il est dit aujourd'hui par les défenseurs du développement durable, consistera à détourner des consommations (et productions) somptuaires des ressources qu'il faudra affecter aux secteurs en mal de ressources. C'est la croissance zéro ou même négative des processus de consommation-gaspillage du Nord qu'il faut commencer à envisager. Concrètement, par exemple, on ne pourra continuer à investir dans le "progrès" de l'industrie automobile ou des infrastructures de transport individuel, si on veut créer des sources d'énergie ou de production non polluantes dans le tiers-monde. Il s'ensuit que certains aspects du niveau de vie des pays riches s'en trouveront affectés, marginalement d'ailleurs. En contre-partie, l'avenir du monde paraîtra un peu plus rassurant, ce qui profitera à chacun, même aux favorisés des pays riches.

Nous conclurons là ces considérations en soulignant qu'il faudra certes étudier les méthodes de taxation et de transfert de revenus envisagées par Hans Moravec pour faire bénéficier l'humanité entière des produits et de la valeur ajoutée découlant des processus robotisés. Mais Moravec sous-estime largement les changements institutionnels qui seront nécessaires pour mettre tout ceci en œuvre. Il compte encore beaucoup, conformément à la doctrine politique dominante aux Etats-Unis, sur l'initiative des entreprises et la concurrence favorisant les meilleurs, les gouvernements se bornant à quelques corrections réglementaires et fiscales. Il évoque très superficiellement les institutions internationales à mettre en place, qui n'existent évidemment pas actuellement, et que les Etats-Unis en tout premier lieu persistent à refuser. (2)

Une révolution institutionnelle et politique

C'est en fait une véritable révolution institutionnelle et politique qu'il faudrait commencer à étudier, pour tirer le plein parti des possibilités émergentes des systèmes et technologies super-intelligentes. Il ne s'agira pas de s'en remettre uniquement au jeu du capitalisme libéral et à l'initiative des entreprises privées pour faire changer les vieilles habitudes économiques. Mais on ne pourra pas non plus réactiver les vieilles recettes de l'intervention publique, qu'il s'agisse de celle des Etats ou d'organisations internationales telles que l'ONU. Les dernières décennies ont montré les erreurs sinon les crimes de dirigeants s'estimant, comme le firent les soviétiques, en mesure de dicter son avenir à l'humanité.

Il faut commencer à étudier un monde faisant largement appel au volontariat non directement rémunéré, à la coopération entre initiatives provenant de secteurs et de zones géographiques éloignées, à l'intervention d'organismes collectifs publics d'une nouvelle sorte. Ceux-ci feront appel à la partie du pouvoir régalien qui demeurera indispensable pour faire accepter les sacrifices et éviter les désordres. Mais elles devront encourager et valoriser les initiatives associatives ou individuelles en réseau, d'où qu'elles proviennent, et notamment des régions du monde actuellement les moins favorisées.

La vraie réponse, celle qui sauvera l'humanité de demain des dangers d'une robotisation purement mécanique des processus économiques, consistera à créer les infrastructures techniques et sociales permettant aux citoyens du Nord et à ceux du Sud de travailler "intelligemment" ensemble, en se répartissant les fruits attendus des évolutions technologiques et en préparant sereinement les grandes aventures futures de l'exploration spatiale. S'agit-il là d'une utopie?

(1) Nous faisons là allusion à l'hypothèse de Lee Smolin, sur laquelle nous reviendrons dans un prochain numéro, selon laquelle les univers tels que le nôtre résultent d'une évolution darwinienne analogue à celle qui affronte sur Terre les êtres vivants.
(2) Le cas de l'agriculture, évoqué régulièrement par les adversaires de la mondialisation libérale, illustre bien la façon contemporaine selon laquelle se pose le problème. On reproche à juste titre à l'Occident, notamment aux USA et à la France, de subventionner leurs agriculteurs (pour un montant annuel de 350 milliards de dollars, semble-t-il) afin de leur permettre d'exporter leurs produits notamment dans le tiers-monde, ce qui ruine les agricultures locales (auxquelles par ailleurs on refuse l'accès des marchés occidentaux dans les domaines où elles pourraient être compétitives). C'est le protectionnisme vert. On pourrait admettre que les zones géographiques climatiquement favorisées nourrissent en partie les populations des zones désertiques, mais il faudrait alors revoir entièrement les relations entre populations et producteurs, pour ne pas faire du tiers-monde une population d'assistés. Pour commencer, selon la suggestion de Moravec, il faudrait taxer, et non pas subventionner, les agriculteurs des pays riches. Cette taxe permettrait de développer des activités productives dans d'autres domaines économiques, au sein des pays défavorisés par le climat.

Retour page d'accueil du dossier

Automates Intelligents © 2002