27 Juillet 2002
Notes par Jean-Paul Baquiast

Dossier super-intelligences
Retour à la page d'accueil

Ray Kuzweil The age of spiritual machines Penguin Books. 1999 Are we spitirual machines The critics of strong AI Edited by Jay W. Richards  pour le Discovery Institute 2002

Avec The age of intelligent machines, paru en 1990, Ray Kurzweil, inventeur et entrepreneur dans la branche particulièrement ardue de l'IA dédiée à la reconnaissance des formes (reconnaissance des caractères, des sons et du langage) a voulu faire partager sa conviction relative à l'avenir de la technologie informatique. Contrairement aux prévisions de l'époque qui proposaient des courbes de développement généralement linéaires, il a montré que l'extrapolation de courbes de développement déjà signalées mais non encore bien comprises, telles que la loi dite de Moore (doublement tous les deux ans du nombre des transistors dans une puce) permettait de prévoir la croissance exponentielle des capacités de calcul et des usages qui en seraient fait. Il prédisait ainsi l'apparition à échéance de quelques dizaines d'années de machines disposant de capacités intelligentes jusqu'ici considérées comme réservées aux hommes. Incidemment il a pu ainsi prévoir à quelques mois près, dans le domaine des échecs, le succès de Deeper Blue contre Kasparov en 1997. Les travaux d'ingénieur de Ray Kurzweil, ainsi que son premier livre, lui ont valu de nombreuses distinctions et la considération de beaucoup de ses pairs, ainsi que la reconnaissance des médias. Dès 1990 cependant, on a pu noter que, s'il était suivi par de nombreux lecteurs enthousiastes, d'autres étaient effrayés par la perspective de voir apparaître à relativement brève échéance des machines intelligentes. Une partie de l'opinion conservatrice a présenté Ray Kurzweil comme un visionnaire ou même une sorte d'escroc intellectuel, tentant de se bâtir une réputation en se situant à contre-courant de l'opinion générale relative à l'importance et au rythme de développement des technologies. Ray Kurzweil n'en a pas moins persévéré. Il a repris et mis à jour ses calculs, multiplié ses observations relatives aux projets en cours de développement dans les laboratoires, approfondi ses réflexions et s'est convaincu, plus fortement que jamais, de l'imminence de l'apparition sur terre de machines, non seulement intelligentes, mais également spirituelles (c'est-à-dire dotées comme l'homme de capacités de conscience). Ses nouvelles réflexions et prévisions ont été livrées au public dans son second grand livre, The age of spiritual machines, accompagné, il faut le noter car la chose est rare, du moins en Europe, par la mise en place d'un site Web consacré à la vulgarisation et à la discussion de ses idées, le Kurzweilai.net (http://www.kurzweilai.net/). Notons d'emblée que le courant prospectiviste à la fois audacieux et optimiste représenté par Ray Kurzweil comporte d'autres représentants éminents. Il faudrait citer plusieurs scientifiques bien informés des questions de l'intelligence artificielle, parce qu'ayant beaucoup travaillé ces questions, soit dès les origines soit plus récemment. Mentionnons seulement ici Hans Moravec, au dernier livre duquel (Robot, 1999) nous consacrons une présentation) et Marvin Minsky, qui prépare un ouvrage sur les affects dans les machines, dont nous parlerons ultérieurement. The age of spiritual machines est un ouvrage de facture originale, se présentant un peu comme un pot-pourri de 350 pages. Il comporte à la fois des chapitres de fond (dictés nous dit l'auteur sur la machine à reconnaître la parole de son invention), de nombreux encarts sous forme de dialogues destinés au grand public, des encarts plus techniques, de nombreuses notes explicatives, bibliographies et liens Internet qui fournissent des années de travail au personnes désireuses d'approfondir les questions présentées. On retrouve là les éminentes qualités pédagogiques et de communication de l'auteur. Are we spiritual machines ? est de forme différente. Il s'agit de la transcription d'un colloque tenu en 1999 à l'initiative du Discovery Institute (http://www.discovery.org/), fondation privée typiquement américaine présidée par Bruce Chapman et animée dans le domaine des TIC par George Gilder et Jay W. Richards. Son but est de favoriser la discussion des questions et enjeux scientifiques ou de culture générale. Les thèses de Ray Kurzweil y ont été soumises à la critique de scientifiques et philosophes ne partageant pas son point de vue sur ce que l'on appelle l'IA forte (strong AI), c'est-à-dire la possibilité de voir un jour apparaître des machines aussi intelligentes, et conscientes, sinon plus, que ne le sont les hommes. Ces discussions sont éclairantes, mais n'ajoutent pas grand chose au contenu des thèses de Kurzweil. Il faut noter que les débats du livre, compte-tenu des délais d'édition, s'ils sont publiés en 2002, remontent pour l'ensemble à des échanges survenus entre 1999 et 2000. Ce sera donc de préférence sur le site web de Ray Kurzweil que le lecteur pourra trouver les derniers avatars de sa pensée.

Les principales propositions de Ray Kurzweil

Il n'est pas possible de résumer tous les points de vue et argumentations de détail présentés dans ces deux livres. Nous nous en tiendrons aux principaux. Par ailleurs, nous n'essaierons pas de les discuter de façon approfondie, car ce serait l'affaire d'un ouvrage aussi substantiel que les livres eux-mêmes. Nous nous bornerons ici à évoquer un certain nombre de questions qui pourront faire l'objet de commentaires et débats ultérieurs dans notre revue.

Les 3 lois du développement accéléré

L'argument principal de l'auteur est qu'en étudiant l'évolution de l'espèce humaine dans le passé, au regard notamment de la capacité des moyens de calcul (calcul au sens large, entendu comme le traitement numérique et analogique des données), on peut en déduire que dans un très petit nombre de décades dorénavant, l'espèce humaine aura développé des automates dont les capacités d'intelligence et de conscience dépasseront la sienne. Il propose 3 lois pour justifier cette affirmation stupéfiante, lois qui ne sont pas aussi rigides que les lois physiques (telle que la loi de la chute des corps) mais qui dessinent des tendances pour lui inévitables, sauf accident toujours prévisible mais de caractère extérieur. Ces lois sont les suivantes :

 La Loi de la croissance exponentielle des technologies informatiques: Il s'agit d'une extrapolation de la loi originale, dite de Moore, bien connue des informaticiens, laquelle prédisait un doublement tous les deux ans du nombre des transistors dans une puce. Vérifiée en ce qui concerne les composants électroniques, elle peut être observée dans les autres domaines des technologies de l'information, et se traduit par une croissance exponentielle de la puissance de calcul en général (vitesse en MIPs, capacité des mémoires en bits, miniaturisation des tailles des composants, densité des réseaux, prix des unités de traitement, etc.).

 La Loi des retours accélérés (accelerating returns) :
plus les sciences et technologies disposent de moyens informatiques efficaces et bon marché, plus elles font de découvertes qui, à leur tour, consomment de nouveaux moyens de calcul. La technologie ne consiste pas seulement à fabriquer des outils mais à fabriquer de quoi concevoir de nouveaux outils. De plus, le progrès est contagieux. Tout progrès dans un secteur entraîne des progrès dans les autres. La technologie génère de la technologie, là encore selon une courbe de croissance accélérée. La technologie devient alors le facteur générateur de l'évolution dans l'évolution que nous vivons actuellement.

 La Loi de l'ordre et du chaos (order and chaos) :
Cette "loi", telle que formulée par Kurzweil, est plus obscure. Elle fait appel au 2e principe de la thermodynamique. Plus les systèmes, systèmes vivants d'abord, puis systèmes vivants relayés par les technologies de l'intelligence, créent de la néguentropie (de l'ordre) plus l'entropie d'ensemble ou chaos, augmente en contrepartie. Mais ce chaos constitue la " ressource " à partir de laquelle il devient possible de construire des ordres plus étendus. On pourrait dire, d'une autre façon, que plus la science avance, appuyée sur les systèmes technologiques, plus le monde se révèle riche en domaines à découvrir et transformer. Loin de provoquer la "fin de la science", autre version de la "fin de l'histoire", la technologie repousse sans cesse l'horizon du connu, en découvrant de nouveaux espaces à conquérir par la connaissance. Kurzweil présente un corollaire de cette loi de l'ordre et du chaos en montrant que, plus l'ordre augmente, plus la vitesse de cette augmentation s'accroît. En d'autres termes, les progrès de l'ordre, longs d'abord (sauf dans les premières millionièmes de seconde ayant suivi le big bang…) sont en train de se faire de plus en plus rapides. D'où à nouveau la perspective aujourd'hui de voir, après des millénaires de développement lent, apparaître à horizon d'une génération les machines super-intelligentes.

On notera que ces différentes lois ne sont pas déduites de l'observation de l'évolution récente, celle engagée par exemple après la première révolution industrielle. Pour Kurzweil, elles remontent très loin dans l'histoire : aux origines de la vie ou, en tous cas, aux origines de l'hominisation, au moment où les premières technologies (associées sans doute à l'apparition des proto-langages) ont permis à l'évolution des hominiens de diverger de celle des autres animaux.

Le ressort des développements exponentiels exprimés par ces lois se trouve dans le caractère particulier des technologies utilisées par l'homme. Celles-ci, contrairement aux outils des animaux, s'inscrivent dans les capacités de communication symbolique permises par le langage. Elles constituent autant des modes d'emploi ou de savoir-faire que des outils. Elles peuvent donc faire l'objet de mémorisation, enrichissement, transfert. Il s'agit en fait de réplicants d'un nouveau genre, qui prennent le relais des gènes pour assurer le développement darwinien exponentiel de l'évolution de l'espèce humaine et, en son sein, des solutions intelligentes.

Questions

Il paraît difficile de contester ce qui précède. Néanmoins, quelques questions doivent être posées :

 Si ces lois sont globalement vérifiées aujourd'hui, quels phénomènes pourront dans l'avenir proche ou lointain, freiner ou accélérer leur développement, avec la conséquence de modifier les délais annoncés pour l'apparition de super-intelligences ?

 Très concrètement, le développement des technologies du calcul est présenté par Kurzweil comme l'heureux résultat du libéralisme intellectuel et économique et de la vive concurrence entre acteurs caractérisant la société occidentale et plus particulièrement celle des Etats-Unis. Si pour des raisons diverses, les politiques estimaient devoir mettre un frein à certains types de consommation ou de gaspillage, par exemple pour assurer un développement plus ménager de l'éco-système (développement durable), les croissances technologiques seront-elles remises en cause, et l'apparition des super-intelligences retardée ? Nous serions tentés de répondre par la négative, et voir dans de telles mesures en faveur du développement durable, qui auront besoin de technologies très avancées, l'occasion d'un nouveau bond en avant de l'intelligence globale. Mais ce point doit être discuté.

Peut-on considérer les technologies comme l'homologue des réplicants dorénavant bien connus que sont les gènes, dans le monde biologique, et les mèmes, dans le domaine culturel animal et humain. Pourrait-on parler par exemple de techno-gènes, identifier des techno-génotypes et des techno-phénotypes ?

Concernant la technologie, si nous admettons que la croissance de celle-ci est le moteur du développement des sociétés humaines qui en disposent, devons-nous admettre qu'elle est aussi le moteur de l'avancement des sciences et des connaissances ? Beaucoup de bons esprits voudraient se persuader que l'esprit humain peut progresser indépendamment du progrès des technologies. Mais les informaticiens et les gens de l'instrumentation scientifique s'étaient persuadé depuis longtemps du contraire. Malgré les rodomontades des sociétés savantes, c'est leur travail et non celui des beaux esprits mandarinaux qui, selon eux, fait avancer la recherche fondamentale. Encore faut-il cependant des esprits inventifs pour formuler des hypothèses audacieuses transcendant les technologies du moment.

Les méthodes et le rôle du prévisionniste.

Considérant comme établies les 3 lois du développement exponentiel présentées par lui, Ray Kurzweil pose à juste titre la question du prévisionniste ou prospectiviste. Il a beau jeu de montrer que tous ceux faisant métier de la chose se sont jusqu'ici régulièrement trompés, en sous-estimant le rythme des développements technologiques et de leurs conséquences sociales. Il voit à cela plusieurs raisons. La plus évidente est que par peur de tomber dans l'ubris des auteurs de science-fiction, les prévisionnistes préfèrent s'en tenir à la partie basse des hypothèses. Ils courent ainsi moins de risques et soulèvent moins de contradictions, la société étant fondamentalement conservatrice et refusant les changements pouvant bouleverser l'ordre des pouvoirs établis. Mais il y a une autre raison plus grave, qu'il met en évidence dans ses discussions avec ses contradicteurs, pourtant philosophes et scientifiques émérites, rapportées dans Are we spirituals machines ? C'est le fait que beaucoup d'experts appelés à se prononcer sur l'avenir des sciences connaissent en général fort mal les technologies de l'informatique, celles des réseaux et de l'intelligence artificielle - tout en s'imaginant au contraire les connaître fort bien. Ils pensent encore par exemple que les ordinateurs sont des machines analogues à des machines-outils, incapables de faire émerger du complexe à partir de règles simples. Ils ont alors beau jeu d'affirmer que l'expansion des moyens de calcul ne permettra pas - ne permettre jamais - de simuler la vie ou l'intelligence.

De plus, ces mêmes experts sont mal informés de ce qui se passe aujourd'hui même dans les laboratoires où, précisément, la vie et l'intelligence sont de plus en plus simulées, soit sur des artefacts purement matériels (électroniques, nanotechnologiques) soit sur des systèmes hybrides associant le vivant et l'artificiel.

Questions.

Il paraît difficile, à nouveau, de contester ce qui précède. Mais il devient urgent, le décalage des prévisionnistes face aux faits étant constaté, de proposer des solutions permettant d'éviter de tels aveuglements, dont les conséquences sur le gouvernement des sociétés humaines seront catastrophiques. Quelles mesures envisager ?

Tenir à jour le recensement de tous les travaux des laboratoires universitaires et des entreprises (à condition que la protection du secret ne s'y oppose pas) contribuant de près ou de loin à l'émergence des super-intelligences. Notre revue, avec de très faibles moyens, s'efforce pour sa part de le faire. Mais nous sommes bien placés pour savoir combien la chose est difficile et combien d'éléments déterminants nous échappent.

Mettre en place des Instituts du futur mieux informés, des Think tanks associant les chercheurs impliqués dans les technologies émergentes?

Revoir entièrement les méthodes de formation initiale et continue, ainsi que celles de la communication scientifique, dans tous les domaines des sciences et des techniques, comme dans ceux de la gestion et de l'administration, pour prendre en compte les perspectives découlant du développement exponentiel des moyens de calcul et de l'émergence imminente des super-intelligences?

Les méthodes permettant de créer des super-intelligences.

En bon ingénieur, appuyé par son expérience dans le domaine des processus de reconnaissance de forme (patterns recognition) utilisant les réseaux neuronaux et les algorithmes évolutionnaires - toutes solutions de type analogique, rappelons-le, par lesquelles l'informatique moderne est loin de ressembler au modèle de la machine de Turing numérique à laquelle les esprits attardés veulent encore la comparer), Ray Kurzweil décrit les grandes filières de développement par lesquelles il estime qu'apparaîtront dans les prochaines années les systèmes super-intelligents :

Copier le hardware du vivant, et plus particulièrement le corps et le cerveau de l'homme. On sait que c'était là l'ambition initiale de l'IA, relayée plus récemment par la bionique. La nature s'est donnée le mal de nous proposer des modèles relativement efficaces d'organisation et de processus, y compris en ce qui concerne le domaine encore difficile à comprendre du fonctionnement du cerveau. Le plus simple est de copier ce que nous voyons. Mais on sait qu'en fait, sans instruments ni modèles technologiques, on ne voit rien de significatif. C'est ce qui a fait que, depuis les Anciens jusqu'aux premiers spécialistes de l'IA, en passant par Léonard de Vinci, la démarche n'avait pas abouti. Aujourd'hui, le présupposé de Kurzweil est qu'avec la pléthore de moyens de calcul et d'observation qui seront disponibles, suite au développement exponentiel des technologies et des connaissances découlant du jeu des lois qu'il nous a présentées, l'impossible deviendra possible. Il propose ainsi d'observer puis de "scanner" le vivant, en pratiquant, quand le détail des mécanismes ne nous apparaît pas clairement, l'ingénierie inverse, abondamment pratiquée dans le domaine de la contrefaçon industrielle, pour retrouver les "secrets de fabrication" de la nature. L'ambition d'un tel projet, débouchant sur la reconstitution en ingénierie inverse d'un cerveau humain sur laquelle il deviendrait possible de télécharger un esprit humain, est justifiée selon Kurzweil par les progrès (une fois de plus exponentiels) des méthodes d'analyse du vivant. On sait ce qu'il en est dans le domaine de l'observation anatomique et fonctionnelle du cerveau. Mais d'autres méthodes moins invasives et allant plus en profondeur dans la complexité du vivant sont toutes proches, découlant des progrès des nanotechnologies. On devrait pouvoir par exemple, sans provoquer de dégâts, envoyer dans le corps des myriades de nanorobots ou nanobots de taille moléculaire, qui rapporteraient à l'observateur le détail de l'organisation et des processus de la vie (par exemple, en ce qui concerne le développement du phénotype, le maintien de l'homéostasie) et de la pensée.

Copier le software du vivant, et plus particulièrement celui générant la pensée intelligente. Par software, il faut entendre les mécanismes de la pensée - ce que Kurzweil appelle les machines pensantes à base de carbone que nous sommes (opposées aux machines à base de silicium, de photons ou de bits quantiques de l'avenir que sont les ordinateurs). Ces mécanismes relèvent à la fois de l'organisation physique des circuits neuronaux ou autres, analysée par les méthodes de scanning exposées ci-dessus, mais aussi des contenus cognitifs acquis par les individus en société, tout au long de leurs développements. Ces contenus se traduisent par des câblages neuronaux et synaptiques correspondant à des représentations permanentes ou temporaires.

Mais le software comporte aussi l'immense réservoir des informations générales, aujourd'hui disponible dans les mémoires culturelles telles que les bibliothèques, les médiathèques, le web. Ce sont ces informations qui permettent aux individus et aux sociétés de se constituer en tant qu'entités pensantes et conscientes. Si les futurs systèmes super-intelligents ne disposaient pas de tels contenus, il serait vain d'espérer qu'ils puissent présenter la moindre richesse, relative à ce que les psychologues appellent le moi biographique. Il faut donc prévoir dès maintenant la façon de transférer sur des mémoires et systèmes artificiels ces contenus d'expérience collective et individuelle, afin de les rendre disponibles lorsque les futurs systèmes intelligents en auront besoin pour construire leur personnalité et leurs références. Comme on le sait, la tâche n'est pas simple. Il ne suffit pas de disposer d'une bonne encyclopédie pour devenir intelligent. La méthode la plus simple conceptuellement, consistant à transférer les connaissances sous forme de milliards de règles dans des mémoires accessibles aux robots, n'est peut-être pas la meilleure. On préférera sans doute la recherche par des agents intelligents évolutionnaires, donnant au robot une information optimisée au regard de ses actions dans le monde.

 Enrichir progressivement les corps et les cerveaux humains de façon à ce que l'extension des capacités corporelles et cérébrales des hommes se fasse au même rythme que celle des machines intelligentes, et que des alliances symbiotiques se réalisent au mieux des intérêts respectifs des artefacts et des humains. Ceci pose la question, en cours d'expérimentation aujourd'hui, de la coopération entre les corps biologiques (éventuellement adaptés par ingénierie génétique) et les corps artificiels. Sur ce point, riche en controverses philosophiques, Ray Kurzweil, contrairement aux prophètes pessimistes prévoyant des guerres entre automates super-intelligents et humains restés attardés, estime que tout naturellement et s'en même s'en rendre compte, les humains des prochaines décennies s'habitueront à utiliser des technologies étendant de façon plus ou moins considérable leurs capacités individuelles et collectives. C'est d'ailleurs bien ce qui s'est passé depuis le début de la révolution industrielle. L'homme moderne bardé d'électronique et branché sur Internet n'a plus grand chose à voir avec celui de l'Ancien Régime. Il n'a pas cependant l'impression d'avoir perdu ce qu'il estime être le propre de l'humain.

Questions

Nous entrons évidemment, avec de telles perspectives, dans le domaine de la conjecture. De nombreuses questions se posent, et risquent de demeurer un certain temps encore sans réponse. Nous n'allons pas essayer de les énumérer toutes ici. Kurzweil en évoque un grand nombre et y répond de manière globalement satisfaisante, tout au moins du point de vue de lecteurs qui, comme nous, ne demandons qu'à nous laisser convaincre. Mais cela ne suffira pas pour entraîner l'adhésion générale. Dans l'ensemble, on peut distinguer les questions relatives à la faisabilité technologique, celles relatives aux délais de mise en œuvre, celles relatives à l'opportunité économique et politique et finalement celles relatives à l'acceptabilité d'ensemble de tels projets.

La faisabilité technologique de projets visant à réaliser des systèmes super-intelligents s'interfaçant avec l'homme, tels que Kurzweil les envisage, paraît à ses yeux incontestable. Il cite un certain nombre de projets encore très modestes aujourd'hui, mais allant dans son sens et susceptibles de donner naissance à des réalisations autrement plus ambitieuses et spectaculaires. L'expérience semble confirmer cet acte de foi. C'est ainsi, petit exemple mais significatif, qu'en juin 2002 l'équipe de biologie moléculaire du Pr. Eckard Wimmer annonçait avoir réalisé in vitro la synthèse du virus de la poliomyélite. On est loin de la synthèse d'un organisme entier, fut-il monocellulaire, mais il s'agit cependant d'un premier pas pouvant y conduire. Dans les cas où la faisabilité ne paraît pas assurée, ni aujourd'hui ni à terme, Kurzweil se dit convaincu que l'accès des scientifiques, dans quelques années, à des moyens de calcul et de simulation infiniment plus puissants que ceux d'aujourd'hui résoudront les difficultés. Il compte beaucoup pour ce faire sur les nanotechnologies.

Il reste que passer d'opérations ponctuelles à la construction sur une grande échelle par rétro-ingénierie d'organismes intelligents ou super intelligents inspirés du modèle humain supposera des millions de pas dont chacun posera problème. Kurzweil ne fournit pas de scénarios très explicites montrant comment une telle démarche pourra se faire, dans le monde de la recherche et de l'industrie que nous connaissons. Manifestement, il compte sur les turbulences que provoqueront dans un milieu chaotique le développement exponentiel des moyens de calcul pour voir émerger les solutions, là sans doute d'ailleurs où on ne les attendra pas. Peut-on partager cette foi ?

Les délais de réalisation annoncés par Kurzweil posent des questions d'une autre nature. Il est certain qu'avec le temps, tout ou presque sera à la portée de la science, en théorie du moins. Mais les dates annoncées pour l'apparition de systèmes intelligents équivalents ou supérieurs aux performances de l'homme actuel paraissent extraordinairement courts. Il s'agit en effet selon Kurzweil de quelques décennies, c'est-à-dire à peine une génération. Dans une dizaine d'années, nous devrions déjà contempler des automates intelligents inimaginables aujourd'hui. Peut-on le croire ? Kurzweil s'appuyant sur les courbes de croissance exponentielle qu'il a mises en lumière, nous affirme que nous devons le faire, à moins d'accepter de fermer les yeux volontairement sur une évolution en train de s'accélérer exponentiellement. Il cite à juste titre le programme Génome humain, qui devait prendre des dizaines d'années et qui s'est trouvé presque terminé, dans sa phase du séquençage tout au moins, en moins de 5 ans. Grâce à cette accélération, les scientifiques disposent dorénavant de génomes complètement numérisés pour une dizaine d'espèces vivantes, à partir desquels l'ingénierie génétique et la rétro-ingénierie peuvent être entreprises.

L'opportunité économique et politique de tels projets, telle qu'appréciée dans les années et décennies prochaines, sera-t-elle garantie? La croissance économique indispensable à ces projets, enregistrée dans les trente à quarante dernières années en Occident, se poursuivra-t-elle? L'actuelle baisse des valeurs de l'électronique peut générer des doutes à cet égard, qui ne devraient pas être durables, mais que l'on ne peut évacuer par un simple acte de foi. Par ailleurs, l'organisation générale du monde actuel, au plan économique et politique, se maintiendra-t-elle? La super-puissance américaine, moteur d'ensemble de l'évolution, conservera-t-elle sa prédominance? Qu'en sera-t-il des autres pôles géopolitiques de développement ? Verra-t-on par ailleurs d'éventuels changements dans la répartition des pouvoirs entre dominants et dominés au plan mondial, entraînant soit une croissance relativement harmonieuse rendant les grands projets scientifiques plus désirables, ou bien au contraire une radicalisation des fractures, avec durcissement des oppositions, menant à des guerres ou explosions terroristes de grande envergure? Devra-ton enfin compter avec d'éventuels changements dans le poids respectif des investissements scientifiques civils et de ceux consacrés à la défense? Les programmes de défense, qu'ils soient ou non utilisé sur des théâtres d'opérations, ont eu jusqu'à présent, un rôle d'accélération des évolutions technologiques. Mais à défaut des programmes civils de même ampleur assureront-ils les retombées des recherches militaires au profit de la société toute entière? Sinon, comment encourager les recherches fondamentales que le secteur privé hésitera à entreprendre?

Reste la question de l'acceptabilité d'ensemble de travaux conduisant à l'émergence de super-intelligences non humaines, associées ou non avec l'homme. Ceux-ci ne peuvent se faire sans un large consensus sociologique. Il suffit de voir les obstacles qu'entraînent, y compris à l'ONU, les perspectives pourtant anodines, au regard des perspectives évoquées par Kurzweil, du clonage reproductif, pour craindre les oppositions les plus vives des milieux conservateurs. Il appartiendra alors aux chercheurs de montrer que, loin de jouer les apprentis sorciers, ils proposent des voies illustrant les valeurs les plus hautes de l'évolution et de la vie. Comme nous l'indiquons dans notre éditorial, Kurzweil a peut-être eu tort de consacrer de longs développements à des perspectives certes spectaculaires mais qui relèvent sans doute encore d'un futur à 50 ans et plus, telles que le téléchargement du contenu d'un cerveau humain dans une machine. Il lui suffirait d'envisager ce qui sera déjà en soi une révolution d'ampleur considérable : la construction de systèmes conscients et intelligents - systèmes auxquels ces hommes pourront d'ailleurs, nous l'avons indiqué, s'associer symbiotiquement de façon plus ou moins étendue.

Questions philosophiques.

Ray Kurzweil, dans ses diverses publications, n'a pas voulu éviter la question des "valeurs" sous-jacentes à l'émergence des super-intelligences qu'il estime en train de se mettre en place, et qu'il nous propose d'aider à émerger. Il se situe, non sans courage dans l'Amérique actuelle en proie à un retour en force des fondamentalismes religieux, dans la catégorie des matérialistes. C'est-à-dire qu'il ne croit pas à un au-delà du réel physique et biologique. Mais la nature, et plus généralement l'univers, lui paraissent assez riches pour que leur dévoilement dans des systèmes de connaissance scientifique représente la valeur la plus haute que puisse se donner l'évolution.

L'évolution, dans cette optique, est un processus sans finalité qui dépasse l'homme. L'intelligence humaine n'en est pas le produit final. Le processus devrait continuer à se développer vers de nouvelles formes d'intelligence. Une intelligence hautement technologique évoluant à partir de l'intelligence humaine, laquelle a résulté d'un mécanisme évolutif non-intelligent, représente donc une valeur évolutive supérieure.

Quant à la question de la conscience (savoir si telle entité est ou non consciente), elle ne peut recevoir de réponse objective. La conscience est probablement beaucoup plus répandue que les hommes ne l'imaginent, notamment chez les animaux. Il n'y a pas de raison de penser qu'elle ne puisse apparaître sur des entités électroniques présentant des caractères voisins de ceux des systèmes nerveux centraux des animaux et des hommes.

Finalement, à quoi serviront les super-intelligences, associées ou non symbiotiquement avec les hommes ? Sans doute à étendre la place de l'ordre ou néguentropie dans un cosmos qui sans cela s'effondrerait à terme dans l'entropie généralisée. Mais ceci nous conduit aux réflexions présentées par Hans Moravec dans Robot, que Kurzweil n'a pas pour sa part beaucoup développées.

Questions

C'est ici à chacun de questionner ces considérations philosophique que, pour notre part, nous acceptons sans difficultés.

* * * * * * * * * *

Pour en savoir plus:
Il convient d'explorer le site KurzweilAI qui donne les dernières nouvelles concernant les projets susceptibles de faire progresser l'intelligence. Comme les auteurs l'indiquent en effet, le AI figurant dans le sigle du site ne renvoie pas seulement à l'intelligence artificielle, mais à l'accélération de l'intelligence (Accelerating Intelligence). Un site susceptible de nous faire penser qu'après tout, les prévisions les plus optimistes de  Ray Kurzweil sont peut-être encore en dessous de ce qui se passera vraiment, rebus sic stantibus. http://www.kurzweilai.net/about/frame.html

Retour à la page d'accueil du dossier

Automates Intelligents © 2002