Nous
ne pouvons pas dans cette revue ignorer un phénomène
que certains considéreront peut-être comme
marginal, mais qui nous paraît révélateur
de ce qui deviendra sans doute un raz de marée, si
l'humanité ne s'effondre pas d'ici là dans
le sous-développement physique et intellectuel :
l'apparition probable, à relativement court terme,
des super-intelligences et des post- ou transhumains. Beaucoup
de gens en parlent, essentiellement aux Etats-Unis. Les
uns en termes aussi scientifiques que possible, les autres
en mélangeant sans hésiter la science-fiction
et les rêveries plus ou moins New Age ou sectaires.
Parmi ceux qui en offrent une perspective pouvant être
qualifiée de scientifique, nous nous devons de signaler
l'existence d'un projet lancé par quelques jeunes
scientifiques américains certainement un peu visionnaires,
destiné à produire une intelligence artificielle
(IA) d'un nouveau type, capable de renouveler les bases
de l'intelligence humaine et de s'auto-enrichir quasi automatiquement.
Les promoteurs de ce projet ont crée un Institut,
encore très modeste en ce qui concerne les membres
et les moyens, mais doté d'une ambition immense,
l'Institut pour la Singularité, Singularity Institute.
Cet Institut se veut entièrement visible à
travers le web. Il offre accessoirement une liste de diffusion
à laquelle nous nous sommes abonnés, pour
ne rien perdre de l'évolution du projet. La meilleure
façon d'étudier celui-ci est de se rendre
sur le site singist.org qui propose un dossier très
complet concernant les motivations et les objectifs poursuivis.
Les auteurs affichent là une véritable volonté
de partage des connaissances, qu'il faut louer à
une époque où tout le monde se barricade derrière
les copyrights. Certes, ils cherchent ce faisant à
provoquer des adhésions (et des soutiens matériels),
mais ils prennent le lecteur au sérieux en lui fournissant
le maximum d'explications possibles, à propos d'un
thème qui n'est pas facile. Si tous les professeurs
d'université faisaient ainsi l'effort d'aller au
devant du public, en termes aisément compréhensibles,
nous ne serions pas au niveau d'inculture scientifique où
nous nous trouvons.
L'ensemble de ce travail, qui est considérable, découle
semble-t-il des intuitions initiales d'un très jeune
chercheur, en partie autodidacte, Eliezer S. Yudkowsky,
dont on ne peut qu'admirer la précocité et
la pénétration. Un de nos correspondants,
Jacques du Pasquier, nous signale la traduction française,
publiée sur le site Transition, d'un article de celui-ci,
écrit pour l'essentiel en 1996, soit à l'âge
de 16 ans : Scruter la Singularité http://dtext.com/transition/yudkowsky/yudkowsky1.html.
On retrouve les principaux éléments de cet
article, présentés de façon plus scientifique,
dans les pages publiées par le site. Eliezer Yudkowsky
est aujourd'hui employé à plein temps par
le Singularity
Institute. Il y développe des conceptions qui doivent
conduire dans un proche avenir au démarrage du projet
d'ingénierie informatique proprement dit.
Dans
les limites de cette courte présentation, nous nous
proposons de résumer les propositions du projet de
l'Institut pour la Singularité, puis de les discuter.
Mais nous incitons vivement nos lecteurs intéressés
par l'informatique évoluée à se rendre
sur le site.
En
quoi consiste le projet ?
D'abord,
qu'est ce que la Singularité ? La page What is the
Singularity http://www.singinst.org/what-singularity.html
définit celle-ci comme la création par des
moyens technologiques d'une intelligence plus qu'humaine,
ou super-intelligence. Les auteurs du projet n'innovent
donc pas sur ce point. Ils reprennent les prévisions
faites par les prospectivistes américains spécialistes
des technologies de l'information, que nous avons souvent
cités dans notre revue : Ray Kurzweil, Hans Moravec
notamment. Les prochaines années verront (sauf catastrophe)
les capacités des composants, réseaux et logiciels
continuer à augmenter au rythme résumé
par la célèbre loi de Moore (doublement des
performances tous les 18 à 24 mois et baisse correspondante
des prix). Il s'ensuit que les ordinateurs et les robots
dotés de telles ressources seront capables dans quelques
années (10 à 15 ans), théoriquement,
de performances au moins égales à celle du
cerveau humain actuel.
De plus,
à partir d'une certaine concentration de ressources
dans le temps et dans l'espace, on verra probablement s'organiser
des phénomènes d'auto-enrichissement uniformément
accéléré. Dans le domaine des matériels,
apparaîtront des systèmes mixtes, artificiels
et biologiques, capables de remédier seuls à
leurs défauts, se réparer et ultérieurement
s'assembler eux-mêmes, comme le vivant a su le faire
au terme de millions d'années d'évolution.
Il en sera de même pour les logiciels. Des générations
successives de programmes apparaîtront sur un rythme
rapide, toujours mieux adaptés, toujours plus enrichis
en contenus cognitifs. Autrement dit, les rythmes lents
de l'évolution génétique et culturelle
naturelle seront remplacés par des rythmes toujours
accélérés d'évolutions artificielles.
D'où le terme de Singularité. De même
que, suite à la Singularité cosmologique qui
avait précédé le Big Bang, un univers
tel que nous le connaissons s'est développé
en quelques milliards d'années, de même, suite
à ce nouvel événement fondateur que
sera la Singularité technologique ainsi décrite,
un nouveau type d'évolution fortement marquée
d'artificiel apparaîtra sur Terre, avant de se répandre
éventuellement dans le Cosmos.
Qu'en
sera-t-il de l'humanité ? En bonne logique, les humains
n'en resteront pas à leur niveau mental et corporel
actuel. Ils pourront s'inscrire dans les événements
faisant suite à la Singularité artificielle,
puisqu'ils pourront se doter de corps et de cerveaux aux
capacités considérablement augmentées.
D'où le concept de posthumanité ou transhumanité.
Les pessimistes craignent que les psychismes, déterminés
par des hérédités encore inchangées,
ne s'amélioreront pas pour autant, ce qui ouvrirait
des perspectives assez sinistres, non seulement à
l'humanité mais à la vie sur Terre. Pour les
optimistes au contraire les humains ainsi augmentés
mettront leur super-intelligence et leurs super-moyens physiques
au service de l'amélioration de la vie sur Terre,
au bénéfice non seulement de l'ensemble de
l'humanité mais de l'ensemble des espèces
vivantes et des grands équilibres écologiques.
Mais,
pour que ce résultat favorable soit envisageable,
il faudra que les humains agissent dans le bon sens. Si
l'évolution des technologies primaires se fait sur
le mode darwinien classique, c'est-à-dire sur le
mode du hasard et de la sélection, tous types d'organisations
physiques et psychiques pourront apparaître. Si au
contraire les humains essaient dès maintenant d'orienter
l'évolution en fonction des valeurs qu'ils estiment
devoir sauvegarder ou faire apparaître, la posthumanité
pourra marquer un progrès par rapport à l'humanité
actuelle.
Il
faut donc sans attendre s'engager dans la voie des travaux
pratiques, compte tenu du fait que l'évolution technologique
n'attend pas mais au contraire s'accélère,
comme indiqué ci-dessus. C'est ici qu'interviennent
les propositions de l'Institut pour la Singularité.
Deux domaines de recherches sont d'ores et déjà
ouverts, celui des systèmes physiques : composants
électroniques, réseaux, matériels divers
et celui des logiciels. Le premier fera largement appel
aux nanotechnologies puis ultérieurement à
l'informatique quantique. Mais les investissements pour
produire des systèmes auto-adaptatifs et auto-reproducteurs
seront considérables, hors de portée des petites
organisations. Dans le domaine des logiciels, avec des ressources
en calcul relativement réduites, il est au contraire
possible de développer des applications et systèmes
de plus en plus ambitieux.. Plusieurs technologies pourront
être utilisées à cette fin : interfaces
directes entre le cerveau et la machine, amélioration
biochimiques du fonctionnement du cerveau, ingénierie
génétique permettant d'obtenir des cerveaux
plus efficaces. Elles amélioreront la vitesse de
traitement des informations, le nombre des neurones actifs,
l'ampleur des connexions entre aires cérébrales,
la performance des entrées sorties sensori-motrices.
Mais vu les risques et les difficultés que présentent
à ce jour ces techniques, on conçoit que les
promoteurs du projet préfèrent s'en tenir
à l'IA. Il faut cependant que celle-ci soit véritablement
en rupture avec l'IA actuelle, très centrée
sur des applications utilitaires de nature industrielle.
Il faut définir une IA qui puisse devenir aussi bourgeonnante,
aussi auto-complexifiante que l'intelligence naturelle -
mais ceci dans un délai de quelques années
et non pas au cours d'un processus de quelques millions
d'années. Plusieurs technologies existent à
l'intérieur de l'IA. Il semble que les auteurs du
projet privilégient celles des systèmes multi-agents
incorporés sur des réseaux de micro-ordinateurs.
C'est la plus facile à mettre en œuvre.
Les
travaux de cette nature obligent, on le sait depuis longtemps,
à s'interroger en profondeur sur ce que sont l'intelligence
et la conscience dans la nature, afin de faire aussi bien
puis ensuite mieux que cette dernière. L'IA étant
une création de l'intelligence humaine, elle peut
donc en retour améliorer l'intelligence humaine,
dans un cycle renouvelé sans fin. Ceci suppose une
analyse de ce qu'est aujourd'hui l'intelligence. La page
http://www.singinst.org/LOGI/
propose les premiers éléments d'une telle
analyse, en distinguant les principaux niveaux emboîtés
hiérarchiquement, relatifs au traitement de l'information
élémentaire, du message sensoriel, du concept,
de l'idée et finalement du raisonnement ou discours.
Ceci n'a rien en soi d'original, mais ce qui est intéressant
est la façon dont le type d'IA proposé pourrait
améliorer les processus cognitifs naturels.
L'intelligence
humaine d'aujourd'hui peut-elle concevoir une intelligence
améliorée, ou simplement différente
? Plus généralement, peut-elle concevoir une
société améliorée, tant en complexité
qu'en fonctionnalités et services rendus, par rapport
à la société d'aujourd'hui ? Les exercices
de la science-fiction montrent à cet égard
un désolant manque d'imagination. On se borne à
extrapoler jusqu'au ridicule les traits actuels. Les primates
pré-hominiens n'auraient pu imaginer notre société
contemporaine, non plus d'ailleurs que nos grands-pères.
Il faut donc mettre en place un dispositif auto-adaptatif
de développement qui révise en permanence
ses ambitions et ses moyens en fonction des résultats
continuellement obtenus.
Nous n'entrerons pas ici dans les détails de la méthode
en cours de mise en œuvre à l'Institut. La page
http://www.singinst.org/LOGI/seedAI.html
la précise et le lecteur devra s'y reporter. On peut
traduire SeedAI par IA auto-génératrice ou
séminale, en ce sens que ses développements
s'engendreraient eux-mêmes par retour d'expérience.
Ajoutons
que les promoteurs du projet insistent beaucoup pour que
ces développements restent contrôlés
par une volonté constamment réaffichée
d'humanisme. Il faut faire une IA amicale, ou friendly.
Ceci vise à désarmer les critiques, de plus
en plus fréquentes, exprimées à l'égard
d'un développement non contrôlé des
technologies et systèmes, que ce soit en matière
de nanotechnologies, de robotique ou de bionique. La page
Friendly AI http://singinst.org/friendly/
décrit avec un grand luxe de détail les spécifications
techniques et fonctionnelles du projet. Nous en laissons
la lecture aux informaticiens. Sur le qualificatif de friendly,
amical, on ne peut pas s'empêcher d'être un
peu sceptique. Rien n'est jamais tout à fait amical
dans le monde, y compris dans celui des logiciels. Il s'y
mêle toujours un peu de prédation. Mais on
ne peut dénier aux auteurs du projet une volonté
affichée de partage des connaissances, mise au service
d'un certain nombre d'objectifs visant à améliorer
les relations inter-humaines.
Le site est constamment en évolution et perfectionnement,
ce qui donne beaucoup à penser concernant la puissance
de travail de son principal auteur, E. Yudkovsky. Le dernier
texte disponible à la date où nous faisons
cet article date de mai 2004 et s'intitule Collective Volition
http://singinst.org/friendly/collective-volition.html.
L'auteur nous annonce qu'il préfère désormais,
au terme de Friendly AI, celui de Friendly Really Powerful
Optimization Process... ce qui n'a pas besoin de traduction.
Qu'en penser ?
Les sceptiques verront dans tout cela soit l'illusion de
quelques jeunes exaltés, soit une machine pour acquérir
un peu de célébrité et d'argent, soit
un des multiples produits d'une campagne d'intoxication visant
à convaincre le monde que l'Amérique continue
à disposer d'une avance intellectuelle substantielle
lui permettant de revendiquer le leadership du monde. Nous
ne céderons pas ici à ces facilités.
Faute de temps et de moyens, nous ne prétendons pas
expertiser la qualité technique des documents et
informations fournies, au-delà des premières
formulations qui paraissent prometteuses. Il nous semblerait
cependant nécessaire d'y regarder de plus près,
car, comme nous l'avons dit, l'entreprise pourrait prendre
une grande portée, scientifique mais aussi politique.
Le projet consistant à essayer de développer
une version avancée ou très avancée
d'IA nous paraît excellent, et venir à son
heure. L'IA aujourd'hui se complaît dans des recherches
compartimentées, utilitaires, sans souci de communiquer
avec le public, sans vision d'ensemble. C'est notamment
le cas en France. La lecture des documents fournis par l'Institut
de la Singularité représente à cet
égard un véritable bain de Jouvence. On réalise
mieux ce que pourrait être un grand programme d'IA
capable d'optimiser les ressources constamment enrichies
fournies par la technologie. On voit également qu'un
tel grand programme ne nécessiterait sans doute pas
des budgets considérables. Quelques petites équipes
travaillant en réseau pourraient obtenir rapidement
des résultats importants, dès lors qu'elles
auraient pris les bonnes décisions d'organisation.
On peut même penser que, au moins au début,
beaucoup de travail pourrait être fait bénévolement
par des programmeurs mettant des ressources en commun sur
le mode du grid, parallèlement à leurs activités
professionnelles. S'il fallait toujours attendre des financements
publics ou privés pour commencer à travailler,
on ne ferait jamais rien. C'est un peu l'enseignement qui
se dégage de l'exemple donné par l'Institut
de la Singularité.
Mais, à supposer qu'en Europe (ou même en France)
des spécialistes d'IA s'intéressent à
une telle initiative, que devraient-ils faire ? Deux vois
sont possibles, après une évaluation sérieuse
de la portée scientifique de la démarche et
des documents proposés par l'Institut.
- Soit prendre contact avec l'équipe de E.Yudkowsky,
comme le site les y invite, et négocier une collaboration
possible (nécessairement en télétraitement).
- Soit, sur des spécifications identiques ou très
proches, développer seul des solutions originales
-ce qui n'empêcherait pas d'entretenir des contacts
avec l'Institut.
Ajoutons, pour ceux qui ne sont pas spécialistes
des développements de l'IA aux Etats-Unis, que plusieurs
chercheurs ont entrepris depuis quelques années,
au plan académique, de développer des versions
ambitieuses de l'IA. C'est aussi, évidemment, un
enjeu pour les systèmes de sécurité
et de défense, mais là les informations sont
rarement disponibles.
Quoi
qu'il en soit, si certains de nos lecteurs voulaient approfondir
cette perspective et souhaitaient le faire savoir, nous
serions heureux de publier leurs commentaires et propositions.
