Robotique, vie artificielle, réalité virtuelle : revue mensuelle - N° 131 Biblionet How to create a Mind par Ray Kurzweil. Présentation et discussion par Jean-Paul Baquiast

Biblionet

How to create a Mind
The secret of human thought revealed

Ray Kurzweil

Viking oct. 2012

Présentation et discussion par Jean-Paul Baquiast
26/11/2012

Nous ne ferons pas à nos lecteurs l'insulte contre l'esprit de leur présenter Ray Kurzweil.

Ils trouveront sur nos sites, entre autres, la recension que nous avions faite à l'époque, de The Singularity is near

Voir aussi notre présentation de 2002 ainsi que plus récemment, une interview datant de 2010

Il va de soi que ces textes doivent aujourd'hui être actualisés.

Pour en savoir plus
* http://fr.wikipedia.org/wiki/Raymond_Kurzweil (français)
* http://en.wikipedia.org/wiki/Ray_Kurzweil (anglais)

On lira notre article du 24/11, Le Deep Learning ou Apprentissage en profondeur, qui aborde très sommairement une petite partie des questions évoquées ici.

Par ailleurs, on observera que la présente fiche de lecture, republiée sur le blog Agoravox, généralement considéré comme fréquentable, a suscité une tempête (toutes choses égales d'ailleurs) de protestations venant de personnes ignorant tout de la conscience et s'indignant que l'on puisse prétendre la simuler sur un cerveau artificiel.

Préambule

Annoncé depuis quelques mois par l'éditeur, How to Create a Mind, que je viens de lire, tient ses promesses. Les esprits critiques diront que je me suis laissé naïvement entraîner par l'enthousiasme futuriste de l'auteur. Je pense qu'il n'en est rien. Ce livre devrait selon moi marquer, sans doute bien au-delà de ce qu'en pense Ray Kurzweil lui-même, l'émergence (selon le terme consacré) ou, si l'on préfère, la cristallisation d'un univers dont les prémisses sont partout mais qui n'avait pas encore atteint la cohérence suffisante pour s'imposer à tous les regards.

De quel monde s'agit-il ? Celui que nous avons appelé ici dans d'autres articles l'univers des processus intelligents co-activés. Ces processus sont inventés par certains humains, mis en oeuvre au moins initialement par eux, mais ils sont en train de leur échapper pour construire le nouvel écosystème dont les humains et leurs machines tels que nous les connaissons ne sont plus que des agents à l'autonomie limitée. Il s'agit d'un monde dont très peu d'humains à ce jour soupçonnent l'existence, et qu'un bien plus petit nombre d'entre eux pourraient commencer à comprendre. Nous sommes donc loin de la démocratie.

Pourtant, les éléments permettant d'analyser l'évolution en train de se faire sont sous nos yeux, disponibles. Nous en subissons tous les jours les premiers effets, mais quasiment à l'aveugle. Nous manquent encore les éléments de la "culture" qui serait nécessaire pour percevoir les logiques à l'oeuvre. Seuls quelques favorisés peuvent commencer à le faire, et très incomplètement.

Pour le prouver, il suffit de poser la question: combien de personnes liront les 336 pages du livre de Kurzweil, y compris les notes et les références ? Combien de personnes iront chercher sur le web les informations nécessaires à la compréhension des innombrables concepts et idées auxquels ces divers textes font allusion? Combien d'entre elles essaieront, à supposer qu'elles procèdent à ce premier travail, titanesque pour des non-spécialistes, de se donner une idée d'ensemble permettant de comprendre les évolutions en cours, ou plus simplement les considérations évoquées ici ? La réponse serait consternante: un nombre infime, au regard des quelques milliards d'humains concernés, qu'ils en soient ou non conscients, par les phénomènes auxquels je fais allusion.

Il leur faudrait en tout premier lieu, objectera-t-on, lire l'anglais et plus particulièrement l'anglais technique. Certes des outils de traduction automatique et d'interprétation sémantique commencent à être disponibles. Mais pour les mettre en oeuvre, les non-spécialistes devraient y consacrer des milliers d'heures. Ils ne le feront pas, soit par indifférence, soit par paresse, soit parce que d'autres obligations plus immédiatement vitales (croient-ils) ne leur en laisseraient pas le loisir.

Je ne ferai pas l'effort consistant à analyser et tenter d'expliquer en détail le livre de Kurzweil, comme on pourrait l'attendre d'un chroniqueur prenant son activité au sérieux. Je me bornerai à en conseiller instamment la lecture, sans plus. Tant pis pour ceux qui ne suivront pas ce conseil. Je réserverai aujourd'hui mon temps et mon énergie du moment à la rédaction du présent article, d'ailleurs bien imparfait, destiné à alerter ceux des lecteurs qui seront déjà suffisamment avertis pour comprendre et discuter le livre de Kurzweil, ou d'autres analogues. Tant pis pour les autres.

Venons-en, après ce préambule nécessaire, à tenter d'interpréter le message non écrit qui se dégage selon moi, de How to Create a Mind. Nous en donnerons ici un résumé très synthétique, en six points

Premier point : les logiciels de simulation par l'Intelligence Artificielle (IA), recoupés par les observations des cerveaux biologiques, et plus particulièrement des cortex supérieurs, commencent à donner des représentations très crédibles de l'organisation et du fonctionnement de ces cortex. Conformément au parti-pris ici, je renvoie le lecteur pour d'autres informations sur ces points tant au livre de Kurzweil qu'au web. Disons seulement que dans un nombre désormais non négligeable de laboratoires et de projets de recherche, des hypothèses de plus en plus précises apparaissent. Notre site a pour sa part référencé plusieurs de tels projets. Citons seulement le projet européen Blue brain et le projet américain Human Connectome.

On observera, mais j'y reviendrai, que beaucoup des équipes participant à ces projets sont financées directement ou indirectement par le département de la défense américaine, par IBM ou par Google. Il s'agit pour ces organismes d'enjeux de pouvoir essentiels. Dans un domaine dit récréatif, mais qui n'a de récréatif que le nom, il faut rappeler les performances de l'automate Watson, mis au point par IBM.

Watson s'est révélé capable de battre les meilleurs experts humains au jeu Jeopardy! [lire notre aritcle du 17 février 2011]. Pour répondre à des questions particulièrement difficiles, il a pu utiliser en quelques secondes des données pertinentes perdues dans les milliards d'informations accessibles sur le web au moment de l'épreuve. De nouvelles générations de Watson sont à l'étude, notamment pour le diagnostic médical.

Deuxième point : les représentations du cortex supérieur découlant de ces recherches sont très rassurantes, en ce sens que loin de faire apparaître une inextricable complexité, elles montrent une organisation très simple et répétitive, constitué de millions (centaines de millions) de structures neuronales élémentaires (mini-colonnes), que Ray Kurzweil et ses collègues nomment des « pattern recognizers » ou « identificateurs de permanences structurales ».

Dans mon article précité consacré au Deep Learning, j'y indique que ces identificateurs sont des acquis de l'évolution. Ils sont indispensables pour interpréter les messages sensoriels, endogènes et exogènes, puis faire apparaître les comportements indispensables à la survie. Si je ne confond pas une souris avec un tigre, ou mon collègue avec un voisin, c'est parce que des pyramides hiérarchiques récursives constituées de tels identificateurs m'ont permis de construire des images aussi adéquates que possible correspondants aux "réalités extérieures permanentes" supposées correspondre aux messages sensoriels en émanant. Les fonctions considérées comme les plus nobles de l'esprit humain en découlent.

On ne doit pas cependant s'imaginer que la simulation des fonctions même les plus élémentaires du cortex, telles la reconnaissance des images ou des sons, puisse être facilement réalisée par des cerveaux artificiels. Ceci parce que, comme le précise Ray Kurzweil, notre cortex met en oeuvre, en parallèle et avec des temps de réponse très courts, des millions de tels simulateurs, actifs et s'auto-perfectionnant dès le plus jeune âge. Ils opèrent tant dans la veille que dans le sommeil, le plus souvent sans que le sujet en soit conscient.

Troisième point : ll est rassurant également de constater que, sous réserve de vérifications expérimentales plus approfondies, ces identificateurs neuronaux, constitués de quelques dizaines ou centaines de neurones, fonctionnement selon des procédures imaginées depuis trente ans par le chercheurs en IA et par Ray Kurzweil lui même. Il s'agit (notamment) de celles à l'oeuvre dans les réseaux neuronaux (neural networks) complétés en vue de permettre une plus grande souplesse par les algorithmes génétiques ou algorithmes évolutionnaires.

La première génération d'IA avait fondé beaucoup d'espoirs sur ces logiciels en vue de simuler des cerveaux humains. Mais faute de puissance de calcul, la mode en avait un peu décliné. Ils reviennent en force aujourd'hui. Ray Kurzweil a pour sa part beaucoup perfectionné les mathématiques permettant d'utiliser les réseaux neuronaux. Il consacre dans son livre de longs développements (p. 141 et suiv.) à ce qu'il nomme les "Hierarchical Hidden Markov Models" (HHMMs). Là encore, je renvoie le lecteur au livre et à Wikipedia. On soulignera un point important: dans des tâches analogues à celles accomplies par les automates de compréhension de la lecture ou du langage, utilisées aujourd'hui par des milliards de produits commerciaux, les "pattern recognizers" du cerveau humain feraient appel, toutes choses égales par ailleurs, de tels algorithmes.

Hierarchical Hidden Markov Models
Hierarchical Hidden Markov Models (source Wikipedia)

Quatrième point : les technologies permettant de construire des automates ou robots conscients, capables de passer avec succès le test de Turing, sont aujourd'hui disponibles. Quelques crédits et une meilleure coordination entre chercheurs permettraient d'obtenir ce résultat en quelques années. Ray Kurzweil, qui s'est rarement trompé dans ses prévisions, estime qu'un tel accomplissement, vœu secret des humains depuis des siècles, pourrait être obtenu avant 10 ans. On peut parier que si des enjeux de pouvoir l'imposaient aux sociétés technologiquement dominantes, le délai pourrait être diminué de 5 ans. Nous sommes donc bien confronté, sauf catastrophes, à un véritable changement de civilisations.

Cinquième point : les hommes et les machines compétents dans ces domaines, qui font progresser à grande vitesse les technologies et leurs applications, font pour l'essentiel partie de ce qu'il faut bien continuer à nommer la technoscience américaine. Par l'intermédiaire des agences de recherche et laboratoires militaires (Darpa) comme des grands firmes engagées dans une course au pouvoir économique et financier (IBM, Microsoft, Google, Facebook), ces acteurs, que j'appelle pour ma part anthropotechniques, contribuent à renforcer le pouvoir sur le monde non pas des Etats-Unis au sens propre du terme, mais des oligarchies politiques, militaires, scientifiques, et médiatiques américaines dites WASP (White, anglo-saxon, protestant).

En conséquence de la crise, un clivage est en train de s'effectuer aux Etats-Unis mêmes entre ces minorités et la majorité grandissante des noirs, latinos et pauvres blancs de plus en plus pauvres mais aussi de plus en plus révoltés. Les WASP n'hésiteront pas à utiliser les armes découlant des technologies intelligentes pour éliminer, y compris physiquement, leurs opposants, à l'extérieur comme en interne.

En termes de géostratégie mondiale, il n'est pas certain que même à échéance de quelques décennies, des puissances émergentes comme la Chine puissent disposer des ressources intellectuelles nécessaires pour bâtir leur propre cerveau global. Ne mentionnons pas les Européens, qui ont renoncé depuis longtemps à se distinguer des Etats-Unis en ces domaines.

En termes de macrosystémique, on pourra donc dire qu'un cerveau global intelligent réunissant tous les cerveaux individuels, principalement américains, des personnes et entreprises investissant pour simuler le cerveau biologique dans les termes décrits par Ray Kurzweil, est en train de se mettre en place. Certains chercheurs impliqués dans ce processus méta refuseraient peut-être d'y adhérer ouvertement. Mais ils le font de facto. Par ailleurs, il paraît illusoire de penser qu'un tel cerveau global puisse être piloté avec précision par des individus et entreprises en quête de pouvoir. Il sera pour l'essentiel soumis à ses propres déterminismes, conscients ou inconscients, favorables à la survie ou destructeurs. Néanmoins, dans les cas critiques, on peut penser qu'il sera repris en mains à leur profit par ces individus et entreprises en quête de pouvoir.

Sixième point : pourrait on aller plus loin et faire l'hypothèse que c'est un cerveau global intelligent s'étendant à l'ensemble des écosystèmes terrestres qui serait en train de se mettre en place, à partir d'une contamination des organisations biologiques et sociologiques par des modèles inspirés de l'organisation des cerveaux humains tels que décrits par Ray Kurzweil et ses collègues?. Cette contamination serait évidemment le fruit des succès rencontrés par les systèmes anthropotechniques ayant découvert et adopté ces modèles du cerveau. Autrement dit, elle serait le produit d'une compétition darwinienne pour un pouvoir global s'exerçant non seulement sur la Terre comme pourquoi pas à terme dans le système solaire.

Mais cette contamination pourrait aussi être présentée comme un nouvel avatar des organisations biologiques, y compris les plus simples, se préparant à affronter les changements, principalement catastrophiques, que des états précédents du cerveau global auraient provoqués sans être capables de les prévoir, moins encore de les prévenir. On pourrait alors leur trouver des aspects encourageants, tout au moins en termes de survie des organisations intelligentes.

Note

Dans une table ronde récente tenue à l'ENSTA (École Nationale Supérieure de Techniques Avancées), quatre scientifiques souvent cités par notre Revue Automates Intelligents ont abordé un thème qui renvoie à celui traité par Ray Kurzweil et commenté dans le présent article: "Que reste-t-il du propre de l'Homme ?". Il s'agit de Georges Chapouthier, biologiste et philosophe, de Jean-Gabriel Ganascia, roboticien, de Lionel Naccache, neurologue et de Pascal Picq, paléoanthropologue.

La publication qui rend compte de la discussion est disponible aux Presses de l'ENSTA, 2012. Nous y renvoyons le lecteur. Bien que trop rapidement, les auteurs apportent à la question les réponses que leur suggèrent leurs disciplines. Pour eux, il n'est pas possible en termes scientifiques de parler d'un "propre de l'homme" existant comme une réalité objective. Les humains manifestent un certain nombre de propriétés, qualités et défauts au regard des exigences de la survie, qui ont pris naissance bien avant l'apparition de l'homo sapiens et qui se retrouveront vraisemblablement chez les successeurs éventuels de celui-ci, étroitement associés à des robots évolutionnaires.

Il n'est donc pas rationnel d'étudier ces propriétés telles qu'elles se manifestent aujourd'hui chez les humains, sans remonter à leurs sources biologiques et anthropologiques, non plus que sans anticiper les formes qu'elles prendront avec la numérisation et la robotisation du monde actuel. Certaines constantes, patterns dirait Kurzweil, peuvent apparaître, mais elles restent relatives. On est loin, inutile de le souligner du point de vue enseigné par le dualisme philosophico-religieux et qui imprègne les croyances de 80% des humains, selon lequel l'esprit humain, reflet de la divinité, échappe à toutes les contingences.

Nous citons ces auteurs ici car leurs travaux fournissent un éclairage indispensable à ceux évoqués par Ray Kurzweil dans son propre ouvrage.

Retour au sommaire

La Revue mensuelle n° 131 Robotique, vie artificielle, réalité virtuelle Information, réflexion, discussion

La Revue mensuelle n° 131
Robotique, vie artificielle, réalité virtuelle

Information, réflexion, discussion