Plan du site Aide Abonnement Nous Contacter


Actualité
Editorial
Interviews
Démocratie
Visites virtuelles
Art. Imaginaire
Du côté des labos
Le feuilleton
Manifestations
Biblionet
CD Rom
Echanges
Liens Utiles

 

Accueil > Biblionet
Automates Intelligents utilise le logiciel Alexandria.
Double-cliquez sur chaque mot de cette page et s'afficheront alors définitions, synonymes et expressions constituées de ce mot. Une fenêtre déroulante permet aussi d'accéder à la définition du mot dans une autre langue.
 
Archives

Consciousness and the Brain

Our mathematical universe

Le monde jusqu'à hier

The wave function

21 septembre 2014
Présentation par Jean-Paul Baquiast

Intelligence Unbound
The Future of the Uploaded ands Machine Minds


Intelligence unbound
The Future of Uploaded ands Machine Minds


Russel Blackford et Damien Broderick

 

Présentation par Jean-Paul Baquiast - 20/08/2014


 

A propos des auteurs

Russell Blackford est un philosophe australien, critique littéraire et auteur, basé à l'Université de Newcastle, NSW. Il est rédacteur en chef de "The Journal of Evolution and Technology". Citons, parmi ses ouvrages : "Freedom of Religion and the Secular State" (Wiley-Blackwell, 2012).

Damien Broderick est un auteur australien de science fiction, éditeur et théoricien critique. Il a écrit ou dirigé quelque 60 livres, dont "The Spike "(révisée, éd., 2002) - ouvrage traitant de la Singularité, et "Year Million" (ed. 2008), traitant du "deep future".

 

Nous venons de publier une présentation du très récent ouvrage de Nick Bostrom "Superintelligence"(1) auquel il serait bon de se référer parallèlement à la lecture de "Intelligence unbound". Celui-ci s'inscrit dans le même courant de pensée: provoquer une réflexion de type philosophique sur les conséquences d'un phénomène que beaucoup de chercheurs en intelligence artificielle (AI) et en intelligence générale artificielle (AGI) prévoient comme devant se réaliser dans les prochaines décennies; la simulation (ou reproduction) complète sur ordinateur des cerveaux et par conséquent des esprits, pouvant permettre le téléchargement, toujours sur ordinateur, de ces cerveaux et de ces esprits. On citera dans la même ligne l'ouvrage de Stuart Armstrong "Smarter than Us: The Rise of Machine Intelligence"(2).

Nous rappellerons d'abord dans cet article les sources du livre, puis nous résumerons et discuterons les thèmes présentés.

Sources scientifiques et philosophiques de "Intelligence unbound"

Le livre s'inscrit directement dans un courant de recherche et de réflexion, encore malheureusement peu connu en France (où les universitaires préfèrent confronter les mérites respectifs des philosophes des siècles derniers), concernant les perspectives et les conséquences de l'arrivée probable de superintelligences in silicio, c'est-à-dire n'ayant pas de supports biologiques. Il s'agit d'un thème qu'explore le Journal of Evolution and Technology (JET), accessible en ligne, dont un des co-éditeurs est Russell Blackford, philosophe australien et un des deux auteurs du livre. Le JET approfondit différents sujets d'actualité, concernant les conséquences sur l'humanité et sur les sociétés des profondes révolutions technologiques en cours.

Outre les développements de la robotique et leurs conséquences sur l'emploi, il s'intéresse plus particulièrement à l'augmentation exponentielle de puissance des ordinateurs. Rappelons que cette augmentation, selon les spécialistes de la question, dont le désormais célèbre Ray Kurzweil, que nous avons souvent présenté(3), devrait leur permettre d'être dotés dans quelques décennies de capacités à l'intelligence, voire à la conscience, analogues ou supérieures à celles des cerveaux humains. D'ou le terme de superintelligences. Il s'agirait d'une conséquence du phénomène dit de la Singularité : les développements exponentiels et convergents des sciences et des technologies pourrait rendre possible, à la fin du présent XXIe siècle, sinon avant, d'innombrables solutions, dans tous les domaines des activités humaines, inenvisageables aujourd'hui.

Parallèlement à l'augmentation de puissance de l'informatique et des technologies associées, le JET étudie, comme le fait Ray Kurzweil, la possibilité de transférer (upload ou télécharger) sur de tels ordinateurs le contenu de cerveaux humains, ce qui les doterait de capacités intellectuelles infiniment augmentées. Il pourrait aussi s'agir, pour les personnes ayant décidé de subir une telle opération, de l'accès à une forme d'immortalité. Se pose alors en théorie la question de savoir comment coexisteraient le moi nouveau ainsi réalisé et l'ancien moi, à supposer qu'il n'ait pas été détruit au cours du transfert et qu'il puisse survivre dans l'ancien corps. Nick Bostrom est associé très étroitement à la rédaction du JET. Les publications de celui-ci s'inscrivent directement dans la ligne des travaux de l'Institute for Ethics and Emerging Technologies (IEET) qu'il a fondé et qu'il anime, conjointement avec James Hugues, bioéthicien et sociologue américain. L'IEET étudie, comme l'annonce son site, les questions suivantes :
-
Technologies et nouvelles technologies susceptibles d'avoir le plus grand impact sur les humains et les sociétés humaines durant le XXIe siècle.
- Questions éthiques soulevées par ces évolutions.
- Limites de l'anticipation dans des domaines soumis à des changements accélérés.
- Politiques souhaitables pour que les individus et les sociétés tirent les plus grands bénéfices possibles de ces évolutions.

Tous ces écrits et travaux s'appuient très largement sur les potentiels de recherche du célèbre Machine Intelligence Research Institute (MIRI) [célèbre dans les milieux de l'AGI] le nouveau nom de l'ancien Singularity Institute for Artificial Intelligence(4)]. Il s'agit d'une association à but non lucratif qui étudie les évolutions de l'IA et ses diverses conséquences. Les thèmes recoupent ou inspirent ceux étudiés par le JET et l'IEET. Un des co-dirigeants du MIRI est le tout aussi célèbre Eliezer Yudkowsky(5) qui a développé, entre autres, un modèle dit Friendly AI (2008)(6). L'objectif en est de définir une superintelligence conçue délibérément pour ne pas nuire aux humains, mais au contraire pour les aider. Il est admis par les spécialistes que des robots dotés de superintelligence pourraient évoluer et se retourner contre leurs concepteurs. Pour éviter cela, il faut implanter dans le robot des mécanismes lui permettant d'évaluer les conséquences de ses actes et d'éviter ceux pouvant être hostiles.

Les thèmes du livre

Intelligence unbound est un assez gros livre. Ceci s'explique en effet parce qu'il est composé d'une vingtaine d'articles (presque de petits essais à eux seuls), accompagnés d'une abondante bibliographie, citations et notes. Une lecture attentive exige plusieurs jours, sans parler d'une bonne connaissance de l'anglais car le livre n'est pas - pour l'instant - traduit en français.

On trouvera ci-dessous la table des matières de l'ouvrage(7).
Ces différents articles, avec certaines redondances et répétitions il est vrai, visent à explorer les perspectives, les promesses et les possibles dangers d'une intelligence se développant dans de super-ordinateurs, ainsi que les perspectives de téléchargement sur ces ordinateurs des contenus de certains cerveaux humains. Notons d'emblée, mais nous y reviendrons, que la première solution est ou sera très vite à notre portée, mais que la seconde, quoi qu'en disent les auteurs, reste aussi utopique pour le moment que pourrait l'être un peuplement de la galaxie par des humains.

Rien n'empêche cependant d'y réfléchir. Ce sera l'occasion d'une meilleure définition de ce qu'est ou n'est pas le cerveau ou l'esprit humain, le soi et les relations de ces entités avec des calculateurs et des robots intelligents. Parmi les responsables de ces essais, on note avec intérêt une importante proportion d'auteurs australiens (australiens comme le sont les compilateurs et préfaciers de l'ouvrage, Russel Blackford et Damien Broderick). Comme quoi ce n'est pas seulement autour des universités américaines et de la Silicon Valley que l'on s'intéresse à la super-intelligence. On peut observer parmi eux, outre des chercheurs en science cognitive et en informatique, des littérateurs et surtout des philosophes.

Certains de nos lecteurs nous feront certainement remarquer que ces "philosophes" n'ont rien de comparable à ceux qui en France, ont passé les examens et concours en philosophie indispensables pour se parer de ce titre. Ils ne peuvent peut-être pas rapprocher les écrits de Marc-Aurèle et ceux de Platon. Disons que quels que soient les formations et diplômes qu'ils ont reçus, il s'agit de personnes capables de jeter sur la science et la technologie le regard critique qui s'impose. Ils font ainsi le lien entre la société et la recherche scientifique, lien qui manque cruellement en France.
Ajoutons que beaucoup des auteurs des essais sont déjà connus des personnes un peu informées des travaux sur l'intelligence artificielle, sur l'intelligence et la conscience. On y retrouve ainsi avec intérêt le philosophe David Chalmers qui s'est fait universellement connaître dans le monde de la recherche par sa définition de la conscience humaine, le "hard problem", autrement dit le problème sans solutions à ce jour. On y trouve aussi Ben Goertzel, chercheur en intellience artificielle et chef d'entreprises, souvent cité dans la littérature.


La collection d'essais présentés dans l'ouvrage offre ainsi :

- le dernier état (l'avant dernier, car ces techniques avancent plus vite que la littérature qui en traite) de l'IA, de l'intelligence dans les machines et de leurs capacités à se doter d'aptitudes à l'Intelligence Artificielle Générale (AGI) semblables voire supérieures à celles des humains les plus doués en la matière,

- l'état des perspectives actuelles concernant la possibilité de charger (ou télécharger - upload) un esprit humain sur de telles machines. Répétons-le, il ne s'agit pas encore de perspectives concrètes, mais de plus en plus de prothèses et interfaces homme-machine déjà développées obligent à poser sérieusement la question. Nous trouvons cependant pour notre part que cette question, aussi intéressante soit-elle, est un peu trop répétitivement évoquée par certains auteurs, ce qui créé lassitude,

- la possibilité de doter les futures super-intelligences, qu'elles soient purement artificielles ou mâtinées d'intelligences humaines, d'"applications" leur permettant, ou leur imposant, de ne pas entrer en guerre avec le reste de l'humanité,

- les problèmes éthiques (éthique individuelle, éthique sociale, éthique politique) que posent déjà et que poseront de plus en plus les symbioses hommes-machines. Ces questions, heureusement, ne sont pas seulement abordées dans le livre par des techno-enthousiastes. Beaucoup de points de vue pour et contre sont mentionnés. Dans l'ensemble cependant, la question majeure de savoir quels seront les (rares) humains qui pourront bénéficier de ces progrès, et le cas échéant atteindre une sorte d'immortalité, au regard de la foule de ceux qui faute de ressources, resteront enfermés dans l'actuelle condition humaine, n'est pas suffisamment abordée.

Il suffit de jeter un coup d'oeil sur les disparités séparant aujourd'hui l'étroite minorité des super-riches et les 95 % de citoyens restant à l'écart du progrès, pour se convaincre que la Singularité promise par Ray Kurzweil et ses disciples, si elle advient jamais, ne sera pas pour tout le monde. Nous avons plusieurs fois souligné ici le risque qu'à côté de ceux qui se diront des post-humains, demeurent des foules d'humains - simplement humains - ou pire, des sous-humains, même pas émergés des Ages Farouches.

Quelques commentaires

La liste des questions venant à l'esprit à la lecture du livre serait très longue.
Bornons-nous ici à évoquer quelques points :


- comme indiqué plus haut, il ne faut pas mettre en parallèle le développement exponentiel des superordinateurs, qu'ils soient numériques ou quantiques, avec les possibilités de télécharger sur certains de ceux-ci le contenu de cerveaux humains. On ne voit pas, et on ne verra sans doute pas avant de très longues années, la possibilité de réaliser ces dernières opérations, alors que les superordinateurs sont déjà parmi nous.
Les projets actuels d'étude approfondie du cerveau (tel le Human Brain project, souvent cité sur ce site) en sont encore à simuler l'architecture de minicolonnes corticales de cerveaux de rats. Une représentation informatique des dizaines de milliers de neurones concernés ne donnerait par ailleurs aucune information sur leurs liens fonctionnels et leurs relations avec le substrat cérébral ou corporel. Ceci veut dire qu'une des méthodes évoquées pour procéder au téléchargement, consistant à remplacer chaque neurone individuel du cortex humain (soit plusieurs milliards) par de microrobots de la taille d'un neurone, capable d'assurer le fonctions de celui-ci tout en communiquant par radio des informations au responsable de l'opération, relève du pur fantasme.
On pourrait donc considérer comme une escroquerie intellectuelle le fait, comme le font certains auteurs du livre, de discuter les tenants et aboutissants du téléchargement de cerveaux, d'esprits, de personnalités. Admettons que les questions afférentes puissent être étudiées aujourd'hui, mais ce ne pourra être qu'à titre d'exercice philosophique... de la même façon que l'on peut s'interroger sur l'éventuel dualisme âme et corps cher aux religions.

- par contre, on peut regretter que les auteurs n'aient pas exploré les perspectives d'apparition spontanée, dans les réseaux numériques actuels ou prochains, comme dans certains types de robots autonomes, de systèmes capables de comportements intelligents, voire d'états de pré-conscience analogues à ceux manifestés par les animaux.
Aujourd'hui, beaucoup de spécialistes de ces questions craignent que de telles capacités, encouragées éventuellement par des militaires ou des spéculateurs, échappent au contrôle des humains et se révèlent destructrices. Une réflexion de type éthique s'imposerait sans attendre sur ces questions, mais elle ne semble pas attirer beaucoup de volontaires.

- ajoutons enfin qu'une voie, encore très peu étudiée dans les universités civiles, sauf par le Pr. Alain Cardon souvent cité sur notre site [voir ci-dessus ce qu'il pense de cet ouvrage - Rubrique "Interview"], consiste à simuler l'intelligence et la conscience humaine, non sur des ordinateurs ou superordinateurs, mais par le biais de programmes logiciels. Le coût en serait bien moindre et l'efficacité supérieure. Mais il faudrait alors admettre que la conscience humaine pourrait se réduire à un enchaînement de programmes informatiques. Ces perspectives ont peut-être déplu aux auteurs de Intelligence unbound.

Notes
(1) Voir article ci-dessous

(2) Smarter than us

(3) Voir notamment notre critique de son ouvrage "The Singularity is near"

(4) voir wikipedia

(5) Voir son site

(6) Voir wikipedia


(7) Table des matières :

Introduction I: Machines of Loving Grace (Let’s Hope) - Damien Broderick
Introduction II: Bring on the Machines - Russell Blackford
1 How Conscience Apps and Caring Computers will Illuminate and Strengthen Human Morality
James J. Hughes
2 Threshold Leaps in Advanced Artificial Intelligence
Michael Anissimov
3 Who Knows Anything about Anything about AI?
Stuart Armstrong and Seán ÓhÉigeartaigh
4 Nine Ways to Bias Open-Source Artificial General Intelligence Toward Friendliness
Ben Goertzel and Joel Pitt
5 Feasible Mind Uploading
Randal A. Koene
6 Uploading: A Philosophical Analysis
David J. Chalmers
7 Mind Uploading: A Philosophical Counter-Analysis
Massimo Pigliucci
8 If You Upload, Will You Survive?
Joseph Corabi and Susan Schneider
9 On the Prudential Irrationality of Mind Uploading
Nicholas Agar
10 Uploading and Personal Identity
Mark Walker
11 Whole Brain Emulation: Invasive vs. Non-Invasive Methods
Naomi Wellington
12 The Future of Identity: Implications, Challenges, and Complications of Human/Machine Consciousness
Kathleen Ann Goonan
13 Practical Implications of Mind Uploading
Joe Strout
14 The Values and Directions of Uploaded Minds
Nicole Olson
15 The Enhanced Carnality of Post-Biological Life
Max More
16 Qualia Surfing
Richard Loosemore
17 Design of Life Expansion and the Human Mind
Natasha Vita-More
18 Against Immortality: Why Death is Better than the Alternative
Iain Thomson and James Bodington
19 The Pinocchio Syndrome and the Prosthetic Impulse
Victor Grech
20 Being Nice to Software Animals and Babies
Anders Sandberg
21 What Will It Be Like To Be an Emulation?
Robin Hanson
Afterword
Linda MacDonald Glenn

Automates Intelligents © 2014

 




 

 

 

Qui sommes nous ? Partenaires Abonnement Nous Contacter

© Association Automates Intelligents
Mention légale CNIL : 1134148