Vers le site Automates Intelilgents
La Revue mensuelle n° 102
Robotique, vie artificielle, réalité virtuelle

Information, réflexion, discussion
logo admiroutes

Tous les numéros


Archives
(classement par rubriques)

Image animée
 Dans La Revue
 

Retour au sommaire

Automates Intelligents s'enrichit du logiciel Alexandria.
Double-cliquez sur chaque mot de cette page et s'afficheront alors définitions, synonymes et expressions constituées de ce mot. Une fenêtre déroulante permet aussi d'accéder à la définition du mot dans une autre langue (22 langues sont disponibles, dont le Japonais).

 

Entretien commenté

La singularité, la conscience
et l'ingénierie inverse du cerveau

Interview de Ray Kurzweil et commentaires
par Jean-Paul Baquiast et Christophe Jacquemin -14/01/2010

Ray KurzweillL'inventeur et futurologue Ray Kurzweil représente pour nous une référence incontournable.
Nous avons plusieurs fois évoqué ses propos, et référencé son ouvrage «Singularity is Near». Dans celui-ci, l'auteur avance que les progrès exponentiels et convergents des sciences dites encore émergentes contribueront à produire dans une cinquantaine d'années un univers terrestre radicalement différent du nôtre, encore pratiquement inimaginable par les hommes que nous sommes.

En effet les humains ou super-humains qui en principe devraient être les produits de la Singularité sont eux- mêmes difficilement imaginables par les humains d'aujourd'hui. Ray Kurzweil, cependant, pronostique que les humains augmentés par les technologies de la Singularité seront bien mieux capables que nous le sommes aujourd'hui de résoudre les énormes difficultés matérielles qu'affronte actuellement l'humanité face à un monde dont les ressources paraissent non seulement finies mais déjà en voie d'épuisement.

On a beaucoup reproché - nous les premiers - à cette hypothèse d'être exagérément optimiste sans pour autant s'appuyer sur des raisons scientifiquement crédibles.
D'une part, les risques de détérioration irréversible de l'environnement peuvent se produire bien plus vite que n'apparaitraient les ressources des nouvelles sciences.
D'autre part, et d'un point de vue plus fondamental, l'évolution induite par la Singularité n'étant pas elle-même prévisible, on pourrait imaginer qu'elle puisse provoquer l'émergence de situations ou d'entités qui, au regard de nos conceptions actuelles du monde, apparaîtraient insupportables.

Celà dit, il est intéressant d'avoir un point de vue récent de Ray Kurzweil sur la question de la Singularité. Nous n'avons pas eu la possibilité de l'interroger. Mais il se trouve que la publication Hplus vient de le faire. Nous reprenons donc ici, en le traduisant et le simplifiant, l'interview qui vient d'être mis en ligne.
Nous y ajouterons nos propres commentaires.

Rappelons en préalable que Ray Kurzweil a suscité les grands titres du dernier Singularity Summit 2009 en traitant de deux thèmes qui abordent précisément les questions que nous venons d'évoquer :
- «L'ubiquité et la prédicabilité de la croissance exponentielle des TIC»
- «les critiques de la Singularité».

Les  Sommets de la Singularité sont organisés par le Singularity Institute fondé en 2006 par Ray Kurzweil, Tyler Emerson et Peter Thiel. Par la suite, Ray Kurzweil a créé la Singularity University qui propose des formations intensives de plusieurs semaines dans les principales disciplines concernées par son objet: biotechnologies, bioinformatiques, nanotechnologies, IA, robotique, finances, etc. L'Université est co-financée par Google et le Ames Reserch Center de la Nasa.

Il faut savoir également que Ray Kurzweil, définitivement infatigable, a réalisé deux films qui doivent sortir prochainement : "Transcendant man" et "The Singularity is near, A True Story about the Future".

Nous nous limiterons cependant ici à reprendre et commenter (en italiques bleues) les propositions de Ray Kurzweil relatives à l'ingénierie inverse du cerveau. Pour le reste, Ray Kurzweil se borne dans l'interview à traiter par le mépris les allégations d'un James Lovelock, selon lesquelles les innovations résultant de la Singularité arriveront trop tard pour empêcher les milliards de morts que pronostique l'environnementaliste anglais. Ni Kurzweil ni Lovelock en effet n'apportent de preuves convaincantes à leurs affirmations.

* * * * * * * * * *

Question 1. Que diriez-vous des relations éventuelles entre la conscience,
le calcul quantique et la la complexité ?

Ray Kurzweil (RK): On m'a posé la question d'un possible lien entre le calcul quantique et le cerveau. Pourrait-on utiliser le calcul quantique pour créer une IA aux performances du cerveau humain? Ma réponse est négative. Je ne retiens pas, notamment, les hypothèses de Roger Penrose relatives à l'existence dans le cerveau de micro-tubules où pourraient jouer des phénomènes relevant de la physique quantique. Le calcul quantique est capable d'accélérer considérablement certaines procédures dans lesquelles le cerveau est très lent, comme la factorisation des grands n ombres. Mais on ne voit pas quel rôle il pourrait jouer dans les mécanismes cérébraux donnant naissance à ce que l'on nomme la conscience. Je ne peux prendre au sérieux l'argument selon lequel la conscience humaine et la calcul quantique étant également mystérieux doivent procéder des mêmes logiques.

J'ai moi-même réfléchi à la question de la conscience depuis 50 ans. Je n'y vois toujours pas clair. Lorsque je lis dans tel ou tel article que les auteurs ont identifié dans le cerveau tel ou tel processus susceptibles de générer des états conscients, je suis toujours déçu. Je me demande à chaque fois quel est le lien entre le processus qu'ils décrivent et la conscience. Ainsi, lors d'une présentation, le Dr Hammeroff a lié la conscience à ce que l'on nomme la cohérence gamma des ondes cérébrales. Celles-ci sont des ondes d'environ 10 cycles par seconde pouvant résulter d'une synchronisation entre neurones. Or l'anesthésie fait disparaître la cohérence gamma. Il est certain que l'anesthésie est intéressante dans l'étude de la conscience, puisqu'elle est réputée la faire également disparaître. Mais en fait, l'anesthésie fait disparaître bien d'autres activités, notamment une grande partie de celles du néocortex. Ceci dit, qui prouve que nous ne sommes pas conscient sous anesthésie? Ce n'est pas parce que nous perdons la mémoire de ce qui se passe que nous perdons la conscience. La mémoire ne doit pas être confondue avec la conscience.

Je m'intéresse plutôt aux projets actuels visant à construire des néo-cortex artificiels, par exemple les projets Blue Brain et Numenta. Certes les modèles qu'ils produisent sont infiniment simplifiés au regard de ce qu'est le tissu cortical humain, mais ils permettent déjà des observations intéressantes. Or il n'y a là rien de quantique.

Vous mentionnez également les liens possibles entre la complexité et la conscience. J'ai abordé ce sujet dans The Singularity is Near. Il ne faut pas confondre la complexité, que Shannon avait proposé de mesurer, avec la répartition au hasard. Dans mon livre, je parle de complexité organisée, voire orientée (purposeful complexity). Elle pourrait mesurer l'aptitude à la conscience. Elle est orientée en fonction de l'histoire évolutive des entités. Un homme est plus conscient qu'un chat et celui-ci davantage qu'un ver de terre. Quant au soleil, est-il conscient ?

Automates Intelligents (AI) : On peut penser en effet que ces discussions sur la conscience sont oiseuses. Parle-t-on de conscience primaire ou de conscience supérieure? Celle-ci intègre-t-elle et comment un modèle du Moi? Nous pensons pour notre part, à la suite de Alain Cardon et de quelques autres, que tout système multi-agents évolutionnaire artificiel, fut-il relativement simple, pourrait générer des états conscients évidemment limités, qui pourraient s'agréger et s'enrichir au sein de populations de systèmes équivalents en compétition darwinienne. C'est sans doute aussi le point de vue de Ray Kurzweil.

Question 2 : Comment prouver la conscience ?

RK : Il n'existe pas de « détecteur de conscience », même parmi les humains. Il faut s'accorder sur un certain nombre de signes objectifs pouvant faire supposer que l'entité, biologique ou artificielle interrogée, est consciente, au sens où nous l'entendons. Il s'agit d'une variante du test de Turing. Dans cette perspective, il faudra admettre que des êtres artificiels puissent être conscients et souffrir. Il ne sera donc pas bien de les tourmenter. C'est un des thèmes de mon film The Singularity is Near. Mais on n'en est pas là aujourd'hui. Ce sera cependant une des questions morales ou philosophiques qui se poseront dans les prochaines années: peut-on faire souffrir des hommes sous anesthésie, des animaux ou des robots supposés pouvoir héberger, davantage qu'un simple PC d'aujourd'hui, des états conscients éventuels?

Question 3 : Que diriez vous des perspectives offertes à l'Intelligence Artificielle par l'ingénierie inverse appliquée au cerveau (reverse engineering the brain) dont vous vous faites le promoteur ?

RK : Je travaille actuellement, après mes films, à deux livres, How the Mind Works et How to build one (a Mind). J'y traite principalement du cerveau mais j'y évoque l'esprit (mind) pour aborder la question de la conscience que nous venons de mentionner. Un cerveau devient un esprit quand il se conjugue avec un corps et, au delà de ce corps, avec les multiples entités sociales impliquant celui-ci.

Pour moi, l'ingénierie inverse du cerveau ne sera pas une simple opération mécanique, dont David Chalmers a dit à juste titre qu'elle ne mènerait pas à grand chose. Il s'agira au contraire ce faisant de comprendre les bases mêmes de l'intelligence. Pour cela, il faudra expérimenter à partir de simulations opérationnelles. On découvrira alors que certaines choses sont importantes et d'autres pas: la gestion des hiérarchies et des changements, la propriétés des patterns, les déterminants de haut niveau, etc. Or il se trouve que le néo-cortex dispose d'une structure très uniforme. La façon dont il traite ces questions basiques semble se retrouver partout. Si on réussit à les simuler à petite échelle, on pourra les reproduire et les amplifier à grande échelle. Ce sera là faire de l'ingénierie.

Le cerveau de l'homo sapiens est certes très lourd et complexe, mais il traite l'information sur un mode très lent, et les connexions interneuronales sont toutes semblables. Beaucoup sont d'ailleurs redondantes. On peut donc espérer, à partir d'un automate élémentaire bien conçu mais simple, les reproduire sans limitations de taille dans un cerveau artificiel, en introduisant d'ailleurs si nécessaires des niveaux hiérarchiques nouveaux. En fait tout sera affaire d'expérimentation, en se plaçant dans les problématiques qui sont celles du cerveau humain, ou dans d'autres que nous imaginerons.

On pourra dans cette perspective étudier aussi les dérèglements mentaux, psychose maniaco-dépressive ou schizophrénie, en simulant des comportements équivalents. Mais bien sûr il faudra rester très prudent, car on ne sait pas grand chose de la façon dont ces psychoses se produisent dans les vrais cerveaux.

On m'a objecté, notamment John Horgan, que pour simuler le cerveau humain, il faudrait des trillions de lignes de code, alors que les logiciels les plus sophistiqués ne dépassent pas quelques dizaines de millions de lignes. Mais il s'agit d'une absurdité. Il n'y a rien dans le cerveau qui soit à ce point compliqué. Le cerveau est le résultat de l'expression du génome. Or celui-ci ne dépasse pas environ 800 millions de bits d'information. De plus, il est plein de redondance. Les séquences les plus longues peuvent être répétées des centaines de milliers de fois. Si l'on utilise la compression d'information, le génome peut être représenté par 50 millions de bits, dont la moitié seulement intéressent la genèse du cerveau. Cela peut être simulé par 1 million de lignes de code seulement. D'autres modes de calcul donnent le même ordre de grandeur.

AI : On peut penser, même s'il ne le dit pas clairement, que Ray Kurzweil se place dans une perspective évolutionniste. Il est exact que les cerveaux humains, ou l'appareil nerveux d'organismes plus simples, ne se sont pas construits d'un coup. Ils ont été le résultat de l'agrégation de processus certainement très simples, associant des composants biologiques eux-mêmes très simples apparus aux origines de la vie, chez les bacilles voire les virus primitifs. Ce sont les aléas de la compétition darwinienne, entraînant la nécessité de résoudre des problèmes eux-mêmes simples mais de plus en plus nombreux, qui ont entraîné le rassemblement au niveau des génomes de gènes codant pour des organisations cérébrales qui nous paraissent aujourd'hui effroyablement complexes, mais qui ne le sont sans doute pas.

Aujourd'hui d'ailleurs, il semble que l'imagerie cérébrale appliquée à des cerveaux humains engagés dans des opérations cognitives jugées particulièrement complexes, comme la reconnaissance des visages, ne fasse pas apparaître de bases neurales très diversifiées et complexes. C'est l'assemblage de ces bases dans des aires cérébrales distinctes en relation par des neurones réentrants, sous commande d'une programmation génétique peu différenciée, qui explique la variété des fonctions permises par le cerveau. De la même façon en est-il de l'émergence de fonctions plus complexes telles que la conscience. Nulle part il n'a été possible d'identifier de neurones responsables de fonctions complexes et moins encore d'hypothétiques neurones de la conscience.

Il est donc plausible de penser que, une fois réalisé un module artificiel unique permettant de réaliser des fonctions cognitives (vraiment) élémentaires, une fois par ailleurs mis en place le moteur (très simple) permettant de fabriquer et d'assembler des millions de tels modules, le tout dans des organismes artificiels (robots ou même entités virtuelles) associant ces bases neurales artificielles et des corps artificiels dotés d'entrées-sorties elles-mêmes simples, tous les éléments seraient réunis pour générer par compétition darwinienne un certain nombre de fonctions complexes permettant de commander des fonctions intellectuelles capables de résoudre des problèmes du type de ceux qu'affrontent les corps et cerveaux humains.

Dans cette perspective, les sophistications de l'IA actuelle, comme le souligne Ray Kurzweil, ne pourront à elles seules permettre de créer un cerveau artificiel (modèles de Markov, algorithmes génétiques, réseaux neuronaux, algorithmes de recherche et d'apprentissage). Il ne s'agit que de techniques. Elles seront très utiles le moment venu pour doter les modèles de fonctionnalités utiles, mais rien ne remplacera un travail pas à pas analogue à celui accompli par l'évolution pendant des centaines de millions d'années. Comme les technologies émergentes résultant de la Singularité devraient permettre de faire ce travail en quelques dizaines d'années sinon moins, c'est cette voie là qui mériterait, pensons nous, d'être explorée. Remarquons que c'est cette voie là que de son côté, à quelques différences près, propose Alain Cardon.

Nous conclurons en constatant que les propositions faites par Ray Kurzweil en matière d'ingénierie inverse du cerveau n'ont plus actuellement grand chose à voir avec une des idées qu'il avait envisagée par ailleurs: télécharger un esprit humain sur une telle plateforme, ceci afin d'obtenir des doubles de soi.
Mais chaque chose en son temps....

Retour au sommaire