Retour
au sommaire
Automates
Intelligents s'enrichit du logiciel
Alexandria.
Double-cliquez sur chaque mot de cette page et s'afficheront
alors définitions, synonymes et expressions constituées
de ce mot. Une fenêtre déroulante permet
aussi d'accéder à la définition
du mot dans une autre langue (22 langues sont disponibles,
dont le Japonais). |
Biblionet
How
to create a Mind
The secret of human thought revealed
Ray Kurzweil
Viking oct. 2012
Présentation
et discussion par Jean-Paul Baquiast
26/11/2012
|
Nous
ne ferons pas à nos lecteurs l'insulte contre
l'esprit de leur présenter Ray Kurzweil.
Ils
trouveront sur nos sites, entre autres, la recension
que nous avions faite à l'époque, de
The Singularity is near
Voir
aussi notre présentation
de 2002 ainsi que plus récemment, une
interview datant de 2010
Il
va de soi que ces textes doivent aujourd'hui être
actualisés.
Pour
en savoir plus
*
http://fr.wikipedia.org/wiki/Raymond_Kurzweil (français)
*
http://en.wikipedia.org/wiki/Ray_Kurzweil (anglais)
On
lira notre article du 24/11, Le
Deep Learning ou Apprentissage en profondeur,
qui aborde très sommairement une petite partie
des questions évoquées ici.
Par ailleurs, on observera que la présente
fiche de lecture, republiée
sur le blog Agoravox, généralement
considéré comme fréquentable,
a suscité une tempête (toutes choses
égales d'ailleurs) de protestations venant
de personnes ignorant tout de la conscience et s'indignant
que l'on puisse prétendre la simuler sur un
cerveau artificiel.
|
|
Préambule
Annoncé
depuis quelques mois par l'éditeur, How to Create
a Mind, que je viens de lire, tient ses promesses.
Les esprits critiques diront que je me suis laissé
naïvement entraîner par l'enthousiasme futuriste
de l'auteur. Je pense qu'il n'en est rien. Ce livre devrait
selon moi marquer, sans doute bien au-delà de ce
qu'en pense Ray Kurzweil lui-même, l'émergence
(selon le terme consacré) ou, si l'on préfère,
la cristallisation d'un univers dont les prémisses
sont partout mais qui n'avait pas encore atteint la cohérence
suffisante pour s'imposer à tous les regards.
De
quel monde s'agit-il ? Celui que nous avons appelé
ici dans d'autres articles l'univers des processus intelligents
co-activés. Ces processus sont inventés
par certains humains, mis en oeuvre au moins initialement
par eux, mais ils sont en train de leur échapper
pour construire le nouvel écosystème dont
les humains et leurs machines tels que nous les connaissons
ne sont plus que des agents à l'autonomie limitée.
Il s'agit d'un monde dont très peu d'humains à
ce jour soupçonnent l'existence, et qu'un bien
plus petit nombre d'entre eux pourraient commencer à
comprendre. Nous sommes donc loin de la démocratie.
Pourtant,
les éléments permettant d'analyser l'évolution
en train de se faire sont sous nos yeux, disponibles.
Nous en subissons tous les jours les premiers effets,
mais quasiment à l'aveugle. Nous manquent encore
les éléments de la "culture" qui
serait nécessaire pour percevoir les logiques à
l'oeuvre. Seuls quelques favorisés peuvent commencer
à le faire, et très incomplètement.
Pour
le prouver, il suffit de poser la question: combien de
personnes liront les 336 pages du livre de Kurzweil, y
compris les notes et les références ? Combien
de personnes iront chercher sur le web les informations
nécessaires à la compréhension des
innombrables concepts et idées auxquels ces divers
textes font allusion? Combien d'entre elles essaieront,
à supposer qu'elles procèdent à ce
premier travail, titanesque pour des non-spécialistes,
de se donner une idée d'ensemble permettant de
comprendre les évolutions en cours, ou plus simplement
les considérations évoquées ici ?
La réponse serait consternante: un nombre infime,
au regard des quelques milliards d'humains concernés,
qu'ils en soient ou non conscients, par les phénomènes
auxquels je fais allusion.
Il
leur faudrait en tout premier lieu, objectera-t-on, lire
l'anglais et plus particulièrement l'anglais technique.
Certes des outils de traduction automatique et d'interprétation
sémantique commencent à être disponibles.
Mais pour les mettre en oeuvre, les non-spécialistes
devraient y consacrer des milliers d'heures. Ils ne le
feront pas, soit par indifférence, soit par paresse,
soit parce que d'autres obligations plus immédiatement
vitales (croient-ils) ne leur en laisseraient pas le loisir.
Je
ne ferai pas l'effort consistant à analyser et
tenter d'expliquer en détail le livre de Kurzweil,
comme on pourrait l'attendre d'un chroniqueur prenant
son activité au sérieux. Je me bornerai
à en conseiller instamment la lecture, sans plus.
Tant pis pour ceux qui ne suivront pas ce conseil. Je
réserverai aujourd'hui mon temps et mon énergie
du moment à la rédaction du présent
article, d'ailleurs bien imparfait, destiné à
alerter ceux des lecteurs qui seront déjà
suffisamment avertis pour comprendre et discuter le livre
de Kurzweil, ou d'autres analogues. Tant pis pour les
autres.
Venons-en,
après ce préambule nécessaire, à
tenter d'interpréter le message non écrit
qui se dégage selon moi, de How to Create a
Mind. Nous en donnerons ici un résumé
très synthétique, en six points
Premier
point : les logiciels de simulation par l'Intelligence
Artificielle (IA), recoupés par les observations
des cerveaux biologiques, et plus particulièrement
des cortex supérieurs, commencent à donner
des représentations très crédibles
de l'organisation et du fonctionnement de ces cortex.
Conformément au parti-pris ici, je renvoie le lecteur
pour d'autres informations sur ces points tant au livre
de Kurzweil qu'au web. Disons seulement que dans un nombre
désormais non négligeable de laboratoires
et de projets de recherche, des hypothèses de plus
en plus précises apparaissent. Notre site a pour
sa part référencé plusieurs de tels
projets. Citons seulement le projet européen Blue
brain et le projet américain Human Connectome.
On
observera, mais j'y reviendrai, que beaucoup des équipes
participant à ces projets sont financées
directement ou indirectement par le département
de la défense américaine, par IBM ou par
Google. Il s'agit pour ces organismes d'enjeux de pouvoir
essentiels. Dans un domaine dit récréatif,
mais qui n'a de récréatif que le nom, il
faut rappeler les performances de l'automate Watson, mis
au point par IBM.
Watson
s'est révélé capable de battre les
meilleurs experts humains au jeu Jeopardy! [lire
notre aritcle du 17 février 2011]. Pour répondre
à des questions particulièrement difficiles,
il a pu utiliser en quelques secondes des données
pertinentes perdues dans les milliards d'informations
accessibles sur le web au moment de l'épreuve.
De nouvelles générations de Watson sont
à l'étude, notamment pour le diagnostic
médical.
Deuxième
point : les représentations du cortex
supérieur découlant de ces recherches sont
très rassurantes, en ce sens que loin de faire
apparaître une inextricable complexité, elles
montrent une organisation très simple et répétitive,
constitué de millions (centaines de millions) de
structures neuronales élémentaires (mini-colonnes),
que Ray Kurzweil et ses collègues nomment des « pattern
recognizers » ou « identificateurs
de permanences structurales ».
Dans
mon article précité consacré au Deep
Learning, j'y indique que ces identificateurs sont des
acquis de l'évolution. Ils sont indispensables
pour interpréter les messages sensoriels, endogènes
et exogènes, puis faire apparaître les comportements
indispensables à la survie. Si je ne confond pas
une souris avec un tigre, ou mon collègue avec
un voisin, c'est parce que des pyramides hiérarchiques
récursives constituées de tels identificateurs
m'ont permis de construire des images aussi adéquates
que possible correspondants aux "réalités
extérieures permanentes" supposées
correspondre aux messages sensoriels en émanant.
Les fonctions considérées comme les plus
nobles de l'esprit humain en découlent.
On
ne doit pas cependant s'imaginer que la simulation des
fonctions même les plus élémentaires
du cortex, telles la reconnaissance des images ou des
sons, puisse être facilement réalisée
par des cerveaux artificiels. Ceci parce que, comme le
précise Ray Kurzweil, notre cortex met en oeuvre,
en parallèle et avec des temps de réponse
très courts, des millions de tels simulateurs,
actifs et s'auto-perfectionnant dès le plus jeune
âge. Ils opèrent tant dans la veille que
dans le sommeil, le plus souvent sans que le sujet en
soit conscient.
Troisième
point : ll est rassurant également de
constater que, sous réserve de vérifications
expérimentales plus approfondies, ces identificateurs
neuronaux, constitués de quelques dizaines ou centaines
de neurones, fonctionnement selon des procédures
imaginées depuis trente ans par le chercheurs en
IA et par Ray Kurzweil lui même. Il s'agit (notamment)
de celles à l'oeuvre dans les réseaux neuronaux
(neural networks) complétés en vue
de permettre une plus grande souplesse par les algorithmes
génétiques ou algorithmes évolutionnaires.
La
première génération d'IA avait fondé
beaucoup d'espoirs sur ces logiciels en vue de simuler
des cerveaux humains. Mais faute de puissance de calcul,
la mode en avait un peu décliné. Ils reviennent
en force aujourd'hui. Ray Kurzweil a pour sa part beaucoup
perfectionné les mathématiques permettant
d'utiliser les réseaux neuronaux. Il consacre dans
son livre de longs développements (p. 141 et suiv.)
à ce qu'il nomme les "Hierarchical Hidden
Markov Models" (HHMMs). Là encore, je
renvoie le lecteur au livre et à Wikipedia. On
soulignera un point important: dans des tâches analogues
à celles accomplies par les automates de compréhension
de la lecture ou du langage, utilisées aujourd'hui
par des milliards de produits commerciaux, les "pattern
recognizers" du cerveau humain feraient appel, toutes
choses égales par ailleurs, de tels algorithmes.

Hierarchical
Hidden
Markov Models (source Wikipedia)
Quatrième
point : les technologies permettant de construire
des automates ou robots conscients, capables de passer avec
succès le test de Turing, sont aujourd'hui disponibles.
Quelques crédits et une meilleure coordination entre
chercheurs permettraient d'obtenir ce résultat en
quelques années. Ray Kurzweil, qui s'est rarement
trompé dans ses prévisions, estime qu'un tel
accomplissement, vu secret des humains depuis des
siècles, pourrait être obtenu avant 10 ans.
On peut parier que si des enjeux de pouvoir l'imposaient
aux sociétés technologiquement dominantes,
le délai pourrait être diminué de 5
ans. Nous sommes donc bien confronté, sauf catastrophes,
à un véritable changement de civilisations.
Cinquième
point : les hommes et les machines compétents
dans ces domaines, qui font progresser à grande vitesse
les technologies et leurs applications, font pour l'essentiel
partie de ce qu'il faut bien continuer à nommer la
technoscience américaine. Par l'intermédiaire
des agences de recherche et laboratoires militaires (Darpa)
comme des grands firmes engagées dans une course
au pouvoir économique et financier (IBM, Microsoft,
Google, Facebook), ces acteurs, que j'appelle pour ma part
anthropotechniques, contribuent à renforcer le pouvoir
sur le monde non pas des Etats-Unis au sens propre du terme,
mais des oligarchies politiques, militaires, scientifiques,
et médiatiques américaines dites WASP (White,
anglo-saxon, protestant).
En
conséquence de la crise, un clivage est en train
de s'effectuer aux Etats-Unis mêmes entre ces minorités
et la majorité grandissante des noirs, latinos et
pauvres blancs de plus en plus pauvres mais aussi de plus
en plus révoltés. Les WASP n'hésiteront
pas à utiliser les armes découlant des technologies
intelligentes pour éliminer, y compris physiquement,
leurs opposants, à l'extérieur comme en interne.
En
termes de géostratégie mondiale, il n'est
pas certain que même à échéance
de quelques décennies, des puissances émergentes
comme la Chine puissent disposer des ressources intellectuelles
nécessaires pour bâtir leur propre cerveau
global. Ne mentionnons pas les Européens, qui ont
renoncé depuis longtemps à se distinguer des
Etats-Unis en ces domaines.
En
termes de macrosystémique, on pourra donc dire qu'un
cerveau global intelligent réunissant tous les cerveaux
individuels, principalement américains, des personnes
et entreprises investissant pour simuler le cerveau biologique
dans les termes décrits par Ray Kurzweil, est en
train de se mettre en place. Certains chercheurs impliqués
dans ce processus méta refuseraient peut-être
d'y adhérer ouvertement. Mais ils le font de facto.
Par ailleurs, il paraît illusoire de penser qu'un
tel cerveau global puisse être piloté avec
précision par des individus et entreprises en quête
de pouvoir. Il sera pour l'essentiel soumis à ses
propres déterminismes, conscients ou inconscients,
favorables à la survie ou destructeurs. Néanmoins,
dans les cas critiques, on peut penser qu'il sera repris
en mains à leur profit par ces individus et entreprises
en quête de pouvoir.
Sixième
point : pourrait on aller plus loin et faire
l'hypothèse que c'est un cerveau global intelligent
s'étendant à l'ensemble des écosystèmes
terrestres qui serait en train de se mettre en place, à
partir d'une contamination des organisations biologiques
et sociologiques par des modèles inspirés
de l'organisation des cerveaux humains tels que décrits
par Ray Kurzweil et ses collègues?. Cette contamination
serait évidemment le fruit des succès rencontrés
par les systèmes anthropotechniques ayant découvert
et adopté ces modèles du cerveau. Autrement
dit, elle serait le produit d'une compétition darwinienne
pour un pouvoir global s'exerçant non seulement sur
la Terre comme pourquoi pas à terme dans le système
solaire.
Mais
cette contamination pourrait aussi être présentée
comme un nouvel avatar des organisations biologiques, y
compris les plus simples, se préparant à affronter
les changements, principalement catastrophiques, que des
états précédents du cerveau global
auraient provoqués sans être capables de les
prévoir, moins encore de les prévenir. On
pourrait alors leur trouver des aspects encourageants, tout
au moins en termes de survie des organisations intelligentes.
Note
Dans une table ronde récente tenue à l'ENSTA
(École Nationale Supérieure de Techniques
Avancées), quatre scientifiques souvent cités
par notre Revue Automates Intelligents ont abordé
un thème qui renvoie à celui traité
par Ray Kurzweil et commenté dans le présent
article: "Que reste-t-il du propre de l'Homme ?".
Il s'agit de Georges Chapouthier, biologiste et philosophe,
de Jean-Gabriel Ganascia, roboticien, de Lionel Naccache,
neurologue et de Pascal Picq, paléoanthropologue.
La publication qui rend compte de la discussion est disponible
aux Presses de l'ENSTA, 2012. Nous y renvoyons le lecteur.
Bien que trop rapidement, les auteurs apportent à
la question les réponses que leur suggèrent
leurs disciplines. Pour eux, il n'est pas possible en termes
scientifiques de parler d'un "propre de l'homme"
existant comme une réalité objective. Les
humains manifestent un certain nombre de propriétés,
qualités et défauts au regard des exigences
de la survie, qui ont pris naissance bien avant l'apparition
de l'homo sapiens et qui se retrouveront vraisemblablement
chez les successeurs éventuels de celui-ci, étroitement
associés à des robots évolutionnaires.
Il n'est donc pas rationnel d'étudier ces propriétés
telles qu'elles se manifestent aujourd'hui chez les humains,
sans remonter à leurs sources biologiques et anthropologiques,
non plus que sans anticiper les formes qu'elles prendront
avec la numérisation et la robotisation du monde
actuel. Certaines constantes, patterns dirait Kurzweil,
peuvent apparaître, mais elles restent relatives.
On est loin, inutile de le souligner du point de vue enseigné
par le dualisme philosophico-religieux et qui imprègne
les croyances de 80% des humains, selon lequel l'esprit
humain, reflet de la divinité, échappe à
toutes les contingences.
Nous citons ces auteurs ici car leurs travaux fournissent
un éclairage indispensable à ceux évoqués
par Ray Kurzweil dans son propre ouvrage.
|
|