Retour au sommaire
Dossier
|
|
A
propos de The Singularity is Near
de Ray Kurzweil, Penguin 2005
premiers commentaires présentés par Jean-Paul
Baquiast et Christophe Jacquemin 28/10/05
|
Ray Kurzweil vient de faire paraître un nouveau
livre, The Singularity is Near (Penguin Group,
2005) qui explicite avec des arguments considérablement
enrichis la principale thèse qui l'a rendu
célèbre : celle selon laquelle la convergence
et le développement exponentiel des nouvelles
technologies conduisent à l'émergence
d'un monde complètement transformé.
L'homme et les réseaux technologiques s'interpénétreront
et se renforceront réciproquement d'une façon
qui reculera sans limites prévisibles les frontières
de la vie intelligente. Il appelle ce bouleversement
la Singularité, parce que rien de ce qui était
admis jusqu'alors ne demeurera valide et parce qu'en
contrepartie tout ce qui était considéré
comme impossible deviendra possible. Notre intelligence
jusqu'alors confinée dans ses supports biologiques
(le cerveau), deviendra progressivement non-biologique
et des milliards de fois plus puissante qu'elle n'est
aujourd'hui. Dans ce monde nouveau, les distinctions
entre l'humain et la machine, entre le réel
et la réalité virtuelle, s'estomperont
progressivement. Les personnes pourront adopter des
corps différents et multiplier les versions
de leurs esprits. Ce faisant, les humains pourront
contrôler le vieillissement et la maladie, éliminer
la pollution, résoudre les problèmes
de la pauvreté et de la faim dans le monde.
De plus, cette révolution immense, selon Ray
Kurzweil, pourrait se produire dans les 10 à
50 prochaines années, c'est-à-dire très
prochainement à l'échelle de l'histoire
humaine.
Cette
thèse avait déjà été
présentée, de façon moins ambitieuse,
dans les deux précédents ouvrages de
l'auteur consacrés à la question du
progrès technologique en matière d'intelligence
artificielle: The Age of Intelligent Machines
et The Age of Spiritual Machines : When Computers
Exceed Human Intelligence. Elle a fait l'objet
de très nombreux commentaires et critiques,
particulièrement aux Etats-Unis. Mais elle
a aussi été reprise, sous des formes
peu différentes, par d'autres « visionnaires
» de l'intelligence artificielle et de la robotique,
notamment Marvin Minsky et Hans Moravec. Nous avons
commenté en leur temps les écrits de
ces divers auteurs. Voir notre rubrique Biblionet
http://www.automatesintelligents.com/biblionet/index.html
Aujourd'hui, d'autres prévisionnistes, travaillant
notamment dans le monde des télécommunications,
ont adopté la vision de Kurzweil et en développent
certains aspects particuliers, notamment en termes
d'applications grand public. C'est par exemple le
cas de Ian Pearson de British Telecom (http://www.btinternet.com/~ian.pearson/).
En
Europe et plus particulièrement en France,
on ne rencontre guère de commentateurs pour
prendre au sérieux les hypothèses de
Ray Kurzweil. On parle de science-fiction, sinon d'escroquerie
intellectuelle (voire d'une forme particulièrement
pernicieuse de la façon dont la super-puissance
américaine veut convaincre le monde de sa prédominance
absolue). Mais, ce qui est pire, la plupart des scientifiques
et des décideurs paraissent ignorer complètement
le thème. Nous pensons qu'il s'agit là
d'un aspect particulièrement criant du mal
français, qui fait douter que notre pays puisse
un jour rejoindre le train de la révolution
scientifique et technologique. Ce mal se caractérise
par le scepticisme à l'égard des hypothèses
présentées par d'autres que nous. Mais
plus profondément encore, il s'agit de la peur
des idées qui dérangent, cette peur
cachant celle encore plus grande des modifications
que les changements obligeront à apporter aux
habitudes et positions acquises.
Pour
notre part, nous trouvons qu'ignorer un ouvrage aussi
important que The Singularity is Near relève
d'un véritable crime contre l'intelligence.
Non seulement il s'agit d'un gros livre de près
de 600 pages, mais il est empli de notes et références
qu'il faudrait plusieurs mois de travail pour analyser.
De plus, l'ouvrage-papier est complété
des mises à jour que l'auteur y ajoute constamment
par divers articles et qui figurent notamment dans
le réseau de connaissances KurzweilAI.Net [http://www.kurzweilai.net]
ouvert à tous sur le régime du libre
accès. Les commentaires associés à
l'ouvrage et présentés sur Internet
en font un travail véritablement collectif
d'une ampleur considérable. On peut donc penser
que l'ensemble a joué et continuera à
jouer un rôle très important dans la
formulation de l'idéologie de conquête
des décideurs technologiques et politiques
américains. Il s'agit d'une raison de plus
pour ne pas l'ignorer.
Plutôt
que faire une présentation d'ensemble de l'ouvrage,
presque impossible compte-tenu de son ampleur, nous
pensons que la meilleure formule consiste à
ouvrir un dossier réparti sur au moins deux
numéros, comme nous l'avions fait précédemment
à propos d'un autre travail également
considérable, A New Kind of Sciences,
de Stephen Wolfram. Nous voudrions pour commencer
résumer la thèse principale de Ray Kurzweil.
Nous en tirerons quelques conclusions sur la façon
dont en France et plus généralement
en Europe, il conviendrait de tirer parti de cette
thèse, afin de muscler les politiques dé
développement adoptées par nos pays.
Pour
en savoir plus
Voir un article de l'auteur
http://www.kurzweilai.net/articles/art0134.html?printable=1
|
Sommaire
La
thèse du développement convergent et accéléré
des innovations technologiques
Quelles
innovations pour quels développements ?
Qui
finance les innovations ?
La
thèse du développement convergent et accéléré
des innovations technologiques
Nul
n'est obligé de partager l'optimisme du livre. On peut
même développer des hypothèses tout à
fait contraires, selon lesquelles nous marcherions à
grande vitesse vers des cataclysmes du type des Extinctions
massives subies par la vie depuis au moins 500 millions d'années.
Mais encore faut-il comprendre le raisonnement suivi par Ray
Kurzweil. Il repose sur la constatation de deux règles
apparemment évidentes mais qui n'avaient jamais été
regroupées jusqu'à présent : les innovations
technologiques se développent à un rythme exponentiel
- les avancées obtenues dans un domaine d'innovation
particulier fécondent tous les autres domaines et ceci
dans des cycles ininterrompus d'enrichissement réciproque.
Ainsi (première règle) l'informatique s'est
développée de façon exponentielle depuis
les origines (Loi de Moore) et sa croissance ne parait pas
devoir s'arrêter. Ce développement exponentiel
de l'informatique bénéficie à tous les
autres domaines d'innovation (deuxième règle).
Il bénéficie par exemple à la biologie
ce qui a permis notamment le séquençage des
génomes en des temps records. A son tour la biologie
se développe de façon exponentielle, ce qui
permet les progrès de la bioinformatique.
Un
autre point important mis en évidence par Ray Kurzweil
concerne la forme du développement exponentiel
des innovations technologiques. Ce développement
suit une courbe en S : d'abord très lent,
quasiment invisible aux observateurs, puis brusquement
accéléré et de nouveau ralenti lorsque
les effets de l'innovation initiale sont épuisés.
Mais d'autres innovations, induites par la précédente,
prennent alors le relais. C'est ce qui s'est
passé constamment dans l'histoire. Ainsi
le téléphone fixe a démarré
lentement, s'est brusquement généralisé
puis aujourd'hui de nouveau ne se développe
plus que lentement. Mais une nouvelle technologie, celle
du téléphone mobile, prend le relais et
va prochainement exploser sur le mode exponentiel dans
l'ensemble du monde.
Le
troisième point important découlant de ce
qui précède est que les cycles d'innovation
sont de plus en plus courts, du fait de la fécondation
croisée de technologies de plus en plus nombreuses
et se développant de plus en plus vite. Ainsi,
il a fallu près de 40 ans à l'informatique
pour devenir une technologie majeure, mais la convergence
informatique-intelligence artificielle-robotique a donné
en moins de 10 ans naissance à d'innombrables
applications innovantes. Le mouvement ne fait que commencer.
Il en fut de même dans l'histoire de l'humanité.
Il a fallu des centaines de millions d'années
pour passer du paléolithique au néolithique,
quelques dizaines de siècles pour passer de ce
dernier à la société industrielle
et quelques décennies pour atteindre le stade de
la société de l'information.
Ray
Kurzweil résume tout ceci, dont il multiplie les preuves,
par le concept de Loi du retour accéléré
(Law of accelerating return). Il n'a pas de mal à
montrer que les prévisionnistes, aujourd'hui encore,
n'ont pas généralement pris conscience du phénomène.
Ils sous-estiment la rapidité et la profondeur des
changements qui se sont produits et continuent à se
produire. Si bien que les décideurs politiques et économiques,
à leur tour, sans mentionner les opinions publiques,
sous-estiment ces mêmes changements. Ceci condamne les
uns et les autres à toujours être pris de cours
par les événements.
Ce
manque de pertinence dans la vision entraîne des résultats
désastreux. Les premiers et les plus immédiats
se traduisent par l'incapacité de procéder aux
investissements collectifs dans les secteurs où ils
seraient les plus aptes à produire des résultats
de croissance, en fécondant l'ensemble des secteurs
innovants. On traite de la même façon un investissement
dans un ouvrage d'art (par exemple en France le viaduc de
Millau) dont les retombées de croissance sont arithmétiques
et un investissement dans la bioinformatique ou les nanotechnologies,
dont les retombées de croissance sont exponentielles.
Il est évident que si les décideurs percevaient
que les investissements dans les technologies émergentes
pourraient produire en quelques années des résultats
de 100 fois la mise, ils trouveraient moyen de dégager
aujourd'hui les sommes nécessaires.
Une
seconde conséquence, tout aussi malheureuse, de
l'aveuglement à l'égard de la
Loi du retour accéléré, se traduit
par le fait que les sociétés s'obnubilent
sur leurs difficultés actuelles sans générer
la confiance qui leur permettrait d'aborder le futur
avec le dynamisme nécessaire à leur survie.
Le climat social serait tout autre si les décideurs
étaient capables de montrer que, grâce aux
développements exponentiels des innovations technologiques,
la plupart des problèmes actuels trouveront des
solutions et que – tout aussi important –
les craintes relatives aux risques futurs (même
lorsque ceux-ci découleraient du développement
de certaines technologies) pourront se révéler
vaines grâce aux bons effets des innovations croisées.
Ray
Kurzweil pousse très loin l'optimisme, puisque,
comme nous l'avons dit, il prévoit dans le
demi-siècle à venir la survenance de la
Singularité telle que définie plus haut.
Nul cependant n'est obligé de le suivre,
notamment dans la façon dont il imagine l'apparition
d'une intelligence quasi cosmique portant au plus
haut les valeurs de l'intelligence humaine. De même,
on peut penser qu'il n'étudie pas avec
suffisamment de précision les risques susceptibles
de provenir du développement de certaines innovations
prises en mains par une humanité dont le niveau
intellectuel est à peine supérieur à
celui des tribus paléolithiques (et encore…).
Autrement dit, rien ne permet d'exclure, comme le
pensent les scientifiques prophètes de la catastrophe,
que des extinctions massives surviennent très prochainement
au lieu de la Singularité annoncée par Ray
Kurzweil.
Cependant,
il serait absurde et dangereux de s'arrêter
à des critiques de ce type pour rejeter l'ensemble
du message de Ray Kurzweil. Un tel scepticisme révèlerait
seulement la peur de l'avenir et du changement que
nous avons dénoncé plus haut, notamment
chez nos compatriotes. Au contraire, nous voudrions que
les chefs d'Etat européens intègrent
complètement la vision de Ray Kurzweil et en fassent
le thème dominant de leurs discours. Imaginons
que, lors du dernier sommet informel de Chefs d'Etat
européens à Hampton Court (27/10/05), un
discours de ce type avait été tenu par l'ensemble
des participants. Les mesures permettant de relancer l'innovation
européenne en auraient été immédiatement
facilitées. On peut dire, sans grand risque d'erreur,
que l'avenir de l'Europe en aurait été
changé.
Quelles
innovations pour quels développements ?
Quels
sont les grands domaines d'innovation technologique
illustrant aujourd'hui avec le plus de netteté
la Loi du retour accéléré proposé
par Ray Kurzweil. Evoquons ici pour mémoire (nos
lecteurs sont très informés) les principaux
:
- Le calcul informatisé ou informatique au sens
général. Si tout est calculable parce que
quantifiable, on comprend que les gains apportés
par l'amélioration exponentielle des outils
informatiques se dissémineront à vitesse
accélérée dans l'ensemble des
connaissances et autres technologies.
- Les réseaux permettant de connecter moyens de
calculs et serveurs de connaissance.
- La bioinformatique qui bénéficie directement
des progrès du calcul et des réseaux pour
simuler le vivant.
- Les nanotechnologies qui donnent la possibilité
de fabriquer de nouvelles formes de matière et
de composants bioinformatiques par des manipulations se
situant à l'échelle du nanomètre.
- Les sciences du cerveau grâce auxquelles, en utilisant
les technologies précédentes, on peut commencer
à comprendre l'organisation et le fonctionnement
du système nerveux et par conséquent de
l'esprit humain.
Ray
Kurzweil y insiste moins, mais il ne faut pas oublier
dans cette énumération d'autres domaines
d'innovation, réutilisant d'ailleurs
très largement les résultats des technologies
énumérées ci-dessus, qui intéressent
directement les possibilités concrètes de
survie des humains dans la galaxie :
- Les technologies permettant l'accès aux
sources d'énergie naturelle renouvelables
grâce auxquelles construire des systèmes
néguentropiques.
- Les technologies de l'exploration et du vol spatial.
A
partir de ce que l'on peut appeler ces technologies
de base, quelles grandes catégories d'inventions
voit-on actuellement émerger ? Nous parlons d'émergence
car rien n'indique que ces inventions soient vraiment
délibérées. Elles se produisent quasi
spontanément dans un milieu soumis à la
compétition darwinienne. Nous citerons ici, sans
reprendre nécessairement les propositions de Ray
Kurzweil (dont certaines paraissent vraiment utopiques
à ce jour) :
- Les matériaux et machines intelligentes.
- Les réseaux de connaissances.
- Les robots autonomes.
- La vie artificielle sous toutes ses formes, computationnelles
et organiques.
- La réalité virtuelle.
- Les corps biologiques et les esprits « augmentés
» (enhanced). Dans cette perspective, les transhumanistes
parleront de post-humains. On peut accepter ce concept
sans l'exagérer. L'homme moderne, au
cœur de ses réseaux, est certainement un post-humain
au regard de ce qu'était le cultivateur néolithique,
au plan physique sinon moral.
- L'exploration du cosmos par des systèmes
hommes-machines.
Qui
finance les innovations ?
Le
lecteur de Ray Kurzweil, nous l'avons dit, peut
à juste titre faire des réserves sur son
optimisme sans nuances. Tout parait se passer pour lui
comme si les technologies émergentes et convergentes
dont il décrit les cycles de développement
se produisaient dans une humanité idéale,
faite de scientifiques et d'industriels recherchant
avec persévérance l'amélioration
du sort de l'humanité au sein de l'environnement
terrestre.
Une première réserve à cet optimisme
pourrait être apportée par la constatation,
souvent faite, que des technologies peuvent, isolément
ou en se conjuguant, produire des résultats plus
ou moins catastrophiques non voulus par leurs promoteurs.
C'est que l'on reproche généralement
aux défenseurs de la « croissance »,
considérée comme un appel généralisé
à des technologies consommatrices de ressources
non renouvelables. De cette croissance irresponsable découle
notamment le phénomène redoutable actuellement
décrit sous le terme de réchauffement climatique
terrestre.
Mais il y a plus grave. Il serait irresponsable de ne
pas se poser la question de savoir quels intérêts
sociaux et politiques financent effectivement les recherches/développements
et la fabrication des produits finis. Ce sont évidemment
ceux qui financent qui décident, au moins dans
un premier temps, du type de société qui
découlera de leurs investissements.
Or, il suffit de regarder les données statistiques
relatives à l'origine géopolitique des grandes
masses de crédits de recherche pour s'inquiéter
véritablement de l'avenir qui se prépare.
Nous n'allons pas ici fournir de chiffres précis,
mais la moindre étude d'intelligence économique
montre que deux grandes catégories d'acteurs
financent les inventions émergentes dont nous avons
fait la liste au paragraphe précédent. Ce
sont :
- Les militaires américains agissant directement ou
par agences interposées (DOD, Darpa, DOE, etc. ) le
tout dans des buts dits de Sécurité Nationale
qui excluent la communication et la discussion des résultats(1).
- Les industriels japonais pour tout ce qui concerne la
robotique industrielle, de compagnie et domestique. Là
encore, les intérêts corporatifs excluent
la communication des résultats.
- Dans une moindre mesure, les grands intérêts
de l'entertainment (jeux en réalité
virtuelle, par exemple) qui sont eux-mêmes souvent
des émanations des lobbies militaro-industriels
américains.
On
trouve évidemment d'autres sources de financement.
Mais les unes, comme celles provenant de la Chine voire de
l'Inde, s'inscrivent dans la lutte mondiale pour la maîtrise
des technologies de puissance. Les autres, provenant notamment
des pays de l'Union européenne, se dispersent dans
de nombreuses directions sans jamais atteindre, à ce
jour (sauf peut-être dans l'aérospatial)
des seuils d'efficacité. Il suffit, pour s'en convaincre
par un exemple pris parmi des centaines, de constater la faiblesse
des crédits dont disposent les laboratoires travaillant
à remédier aux handicaps moteurs grâce
à des technologies robotisées. Le paralysé
ne paye pas. Comme il faut le constater par ailleurs, il n'est
pas certain que l'on mette jamais tout en oeuvre pour lutter
grâce aux technologies émergentes contre la faim,
la pauvreté et les grandes maladies. Les grandes décisions
à cet égard se prennent encore pour l'essentiel
à partir de la vision hégémonique et
de lutte pour le pouvoir qui est celle des pays dominants.
Si le monde continue sur cette lancée, on peut douter
que ce soit à partir des valeurs (ou prétendues
valeurs) humanistes, fussent-elles prônées par
l'Europe, que se produira la Singularité pronostiquée
par Ray Kurzweil.
(1)
Ce point de vue est de plus en plus répandu aux Etats-Unis
chez les opposants au rôle croissant des budgets militaires
dans le financement de la recherche. Voir par exemple dans
Salon.com
http://www.salon.com/tech/feature/2005/10/20/soldier/index_np.html
"Vast
government contracts have corrupted the American university
system, turning off the fountainhead of unfettered ideas
and scientific discovery. Multibillion-dollar federal
R&D budgets have replaced the solitary inventor with
veritable armies of scientists and engineers in laboratories
across the country. Public policy itself has become the
captive of a scientific-technological elite."
2005?
Try 1961. The paragraph above was taken with only minor
changes from President Dwight Eisenhower's famous farewell
address.
Things
have only gotten worse in 44 years. If Eisenhower was
worried about the power and influence of what he called
"the military-industrial complex" then, he'd
be catatonic now. The risks -- and opportunities -- posed
by today's corporate-academic-military behemoth are exponentially
greater than in his day. So is the money: Total military
spending on basic R&D is probably somewhere between
$15 billion and $20 billion per year and rising. Scientists
funded by this bottomless war chest are working on mind-blowingly
powerful devices that threaten to plunge the world into
a deadly new arms race. Oh sure, this stuff could also
revolutionize medicine, communications, transportation
and every other aspect of human life: the shopworn "spinoff"
argument honed for decades by NASA's P.R. machine. But
whether humanity will get to use the awesome power of
these new technologies -- in particular nanotechnology
-- for good rather than ill is one of the key questions
of the 21st century.
Retour au sommaire
