Sciences,
Technologies et politique.
A la recherche de l'intelligence Artificielle
Générale (AGI): un devoir pour les forces démocratiques
européennes. Jean-Paul Baquiast et al. 23/10/2012
Version en circulation pour discussion
Dans
un article qui commence à faire un certain bruit 1)
le physicien britannique David Deutsch met en cause les principes
sur lesquels s'appuient ceux qui prétendent réaliser
des méthodes permettant d'émuler sur ordinateur
les processus par lesquels les cerveaux humains produisent
de véritables inventions. Pour lui l'AGI, ou ceux qui
parlent en son nom 2), est encore trop engluée dans
les processus déductifs de la logique ordinaire. Autrement
dit elle ne fait que répéter avec les moyens
de plus en plus puissants de l'informatique et de l'Intelligence
Artificielle (IA) modernes ce qu'elles ont toujours fait jusqu'à
ce jour: informatiser le contenu des bases de connaissances
et des bases de données héritées du passé,
afin d'en tirer de nouvelles applications très peu
innovantes.
Or ces
bases n'ont pas été élaborées
par hasard. David Deutsch ne le dit pas explicitement dans
cet article mais il l'avait très bien exposé
dans son ouvrage The Beginning of Infinity dont nous
avions salué le regard novateur dans la chronique par
laquelle nous le présentions aux lecteurs français
3). Les bases de données et de connaissance actuelles,
tout autant que l'interprétation qui en est donnée
par les médias, expriment très largement des
visions de l'univers produites par les forces économiques
et politiques dominant actuellement le monde. S'y ajoutent
aujourd'hui la volonté des religions de combat d'imposer
ou de ré-imposer aux sciences athées ("ou
naturalistes", selon le terme anglais) de pseudo-connaissances
héritées d'époques dominées par
des croyances primitives, antérieures au siècle
des Lumières.
Autrement
dit, lorsque l'IA et l'AGI se bornent à exploiter de
façon déductive ces connaissances, elles tournent
le dos à ce qui est à la base de la véritable
création, représentée par l'induction
et l'abduction 4). Ceci n'a rien d'étonnant, si l'on
admet que les véritables innovations sont combattues
par les forces et pouvoirs dominants. Elles seules en effet
ont la capacité de remettre en cause l'ordre actuel
du monde, imposé par les conservateurs.
L'article
de David Deutsch appelle des questions de grande portée
scientifique, philosophique et politique. Nous allons pour
notre part, afin de rester aussi clairs que possible, nous
limiter à trois d'entre elles
Première
question: Existe-t-il dans la nature, physique ou biologique,
des processus d'innovation permettant de produire de véritables
innovations? Cette question relève de
la réflexion théorique. Le lecteur du présent
article peut ne pas s'y attarder, mais nous devons la mentionner.
On admet généralement que l'univers physique,
y compris à l'échelle cosmologique, repose sur
un processus accroissant indéfiniment l'entropie, c'est-à-dire
le désordre. La vie, la pensée humaine générée
par le cerveau, peuvent produire de l'ordre, mais c'est en
empruntant localement et provisoirement de l'énergie
au reste de l'univers. L'innovation, génératrice
d'ordre, serait donc un processus coûteux et rare. Ses
produits, des mondes et sociétés complexes,
seraient donc, à très longue échéance,
condamnés à disparaitre,
Ce point
de vue est contesté par ceux pour qui la science actuelle
connait très mal les lois gouvernant l'évolution
sous ses différentes formes, que ce soit dans le cosmos
ou sur Terre, y compris dans nos sociétés. Si
l'on admet que le monde physique, ou même la génération
de la pensée dans nos cerveaux, font appel au traitement
de bits quantiques 4) autrement dit que l'univers serait calculable,
si l'on mettait en oeuvre les puissants moyens potentiels
de l'ordinateur quantique, il ne serait pas exclu de développer
des versions d'univers échappant au moins localement
à ce que la science actuelle appelle les lois fondamentales
de la nature.
Avec des
ambitions nécessairement plus réduites, une
AGI utilisant les ressources futures de la computation quantique
pourrait bouleverser notre compréhension du monde et
notre action au sein de celui-ci. Il s'agit d'une tâche
à laquelle travaillent ou ont travaillé, avec
des moyens malheureusement réduits, des spécialistes
du calcul quantique, tel que David Deutsch. La France, qui
cherche aujourd'hui à relancer l'innovation, devrait
aussi y travailler 5). Encore faudrait-il ne pas appliquer
l'ordinateur quantique à des problèmes déjà
résolus par la pensée et l'informatique traditionnelles.
L'encouragement de véritables innovations par le biais
d'une AGI aussi révolutionnaire que possible, reste
donc plus que jamais nécessaire.
Sans prendre
en considération d'éventuelles interventions
humaines, un nombre croissant de cosmologistes admettent par
ailleurs dorénavant que le tissu profond de la « réalité »
observable, encore indescriptible aujourd'hui, sous-jacent
aux « singularités » hors de
l'espace et du temps se manifestant notamment au coeur des
« trous noirs », pourrait générer
des univers très différents du notre, dont nous
pourrons avoir éventuellement connaissance.
Concernant le 2e principe de la thermodynamique, dont découle
l'apparente entropie s'appliquant à l'évolution
cosmologique, certains chercheurs par ailleurs commencent
à se demander s'il ne conviendrait pas aujourd'hui
de repenser les conditions dans lesquelles ce postulat s'applique.
C'est ce que propose de faire le physicien Vlatko Vedral,
lui aussi spécialiste de la computation quantique 6).
Deuxième
question. Est-il possible de décrire, afin d'en faire
un modèle informatique opérationnel, un cerveau
artificiel générant des pensées véritablement
originales ou créatrices?
Il s'agirait
autrement dit de pensées ne se bornant pas à
répéter sous des formes différentes des
compétences acquises au cours de l'évolution.
Elles ne seraient pas de simples déductions, mais des
innovations, susceptibles d'être soumises à l'expérience
afin de contribuer ensuite à l'évolution du
milieu terrestre. Elles procéderaient, pour reprendre
cette terminologie, sur le mode inductif ou abductif.
On peut
supposer que les cerveaux biologiques générant
de tels pensées de leur propre chef ont toujours été
nombreux au sein des sociétés humaines (en se
limitant à l'homme et n'étendant pas la question
à l'innovation dans le règne animal et aux cerveaux
des espèces paraissant proches de l'homme à
cet égard). Sinon comment expliquer les activités
« authentiquement créatrices »
que manifeste l'humanité. Même si ces activités
créatrices sont principalement le produit de processus
sociaux dits heuristiques (par exemple la compétition
darwinienne pour élargir l'accès aux ressources),
tout laisse penser que les cerveaux des humains qui y sont
impliqués manifestent des qualités particulières,
ou des modes de fonctionnement particuliers, les conduisant
à dépasser la seule valorisation des connaissances
déjà acquises.
Mais pourrait
on espérer que les cerveaux d'humains habitués
à faire appel en permanence à la déduction
répétitive pourraient prendre assez de recul
par rapport à eux-mêmes pour générer
des modèles de cerveaux qui produiraient des pensées
véritablement originales, ceci d'autant moins que l'organisation
des pouvoirs dans la société est globalement
orientée vers la conservation des acquis et non vers
la promotion d'innovation possiblement révolutionnaire.
Il faudrait que pour cela ils y soient obligés.
Dans le
monde actuel, on peut identifier deux types d'obligations
forçant des humains (des chercheurs) à conduire
de telles recherches. L'une relève de la compétition
pour l'accroissement des connaissances académiques,
compétition qui jusqu'à ces derniers temps animait
les sociétés issues de la civilisation des Lumière
(dont on peut penser que David Deutsch est l'un des derniers
représentants). L'autre relève de la compétition
entre Puissances géopolitiques pour s'assurer des systèmes
d'armes défensifs et offensifs aussi efficaces que
possible. Or a cet égard la mise au point et la maîtrise
de cerveaux véritablement innovants est vitale. Dans
ce dernier cas malheureusement, les recherches et les chercheurs
sont soumis à des obligations de secret-défense
strictes. Leurs travaux n'ont que peu de retombées
dans le monde civil. Il est donc difficile d'en parler publiquement.
Troisième
question. Que pourraient faire les démocraties pour
vulgariser de telles approches?
S'il se
trouvait que des chercheurs ne travaillant pas pour la défense,
et donc non astreints au secret, aient élaboré
des modèles de cerveaux artificiels, ou plus exactement
de conscience artificielles, susceptibles de générer
des pensées véritablement originales, inventives,
possiblement conceptuellement révolutionnaires, pourrait-on
envisager qu'une démocratie comme la nôtre finance
les développements de leurs recherches, ceci dans le
cadre d'une démarche politique visant à leur
donner une large publicité au bénéfice
de l'ensemble de la société civile?
Les signataires
de cette note, mise ce jour en circulation pour recueillir
des réactions, ont, à tort ou à raison,
la conviction que le modèle de conscience artificielle
dont les spécifications ont été depuis
longtemps exposées publiquement par Alain Cardon, pourrait
s'il était programmé effectivement, répondre
aux exigences d'un moteur d'Intelligence Artificielle Générale
tel qu'envisagé par David Deutsch dans son article.
Il pourrait en tous cas répondre aux besoins d'innovation
tous azimuts dont ont besoin pour survivre les sociétés
européennes.
Mais ils
sont aussi persuadés d'un point beaucoup plus préoccupant
pour la démocratie. Des spécifications identiques
ou voisines de celles étudiées par Alain Cardon,
voire plus performantes, ont déjà été
mises en oeuvre par des puissances non européennes.
Elles ont commencé à produire des systèmes
autonomes pour l'innovation et la prise de décisions,
en matière de cyber-guerre et de contrôle social.
Il serait donc urgent d'avertir les citoyens des risques inhérents
aux nouveaux pouvoirs, de type anthropotechniques, qui sont
en train de contrôler nos sociétés. Pour
cela, il n'existe pas de meilleurs formules que développer
le prototype d'un système de cette nature, en libre-accès
s'inspirant de l'open source, et sous le contrôle d'un
comité d'éthique. Encore faudrait-il qu'un telle
entreprise ne soient pas sabotée d'emblée par
ceux qu'elle génerait.
Notes
1) David Deutsch. The very laws of physics imply that artificial
intelligence must be possible. What's holding us up? 03/10/
2012
http://www.aeonmagazine.com/being-human/david-deutsch-artificial-intelligence/
2) Voir par exemple le Dr Ben Goertzel, et son intervention
en réponse à David Deutsch http://www.kurzweilai.net/the-real-reasons-we-dont-have-agi-yet.
Il impute principalement la faiblesse de l'AGI à celles
des ordinateurs contemporains et à celle des crédits
qui y sont consacrés, ainsi qu'à la difficulté
d'intégrer les différentes composantes d'un
système associant des AI afin d'en faire un ensemble
performant sur le mode de l'AGI.
3) David Deutsch The beginning of Infinity. Voir notre
chronique (http://www.automatesintelligents.com/biblionet/2011/juin/beginninginfinity.html)
4) Wikipedia. L'abduction http://fr.wikipedia.org/wiki/Abduction_%28%C3%A9pist%C3%A9mologie%29
. Selon le sémioticien et philosophe américain
Charles Sanders Peirce (1839-1914), fondateur du courant pragmatiste
en épistémologie, l'abduction constitue une
troisième forme de raisonnement, différente
de la déduction et de l'induction. C'est le seul mode
de raisonnement permettant d'aboutir à des connaissances
nouvelles.
5) Ainsi le Pr Seth Lloyd. Voir son ouvrage Programming
the Universe et notre présentation http://www.automatesintelligents.com/biblionet/2006/avr/lloyd.html
6) Voir notre éditorial "Un prix Nobel en physique
quantique, oui mais après? http://www.automatesintelligents.com/edito/2012/oct/prix-nobel-physique-france.html
7) Voir Vlatko Vedral The surprise theory of everything
http://www.newscientist.com/article/mg21628861.700-the-surprise-theory-of-everything.html
7) Voir Alain Cardon. " Vers un système de contrôle
total"
Editeur Automates Intelligents, 20 octobre 2011
Ouvrage au format.pdf accessible en téléchargement
gratuit
(publié sous Licence Creative Commons)
http://www.admiroutes.asso.fr/larevue/2011/121/controletotal.pdf
8) Voir Jean-Paul Baquiast, Le Paradoxe du Sapiens, Editions
Jean-Paul Bayol, 2010.
Annexe
Pour ceux que n'effraient pas quelques diagrammes, nous publions
ici la 3e version d'un article de Alain Cardon; Une machine
peut-elle penser?
http://www.admiroutes.asso.fr/larevue/2012/130/Cardon3.pdf
Automates
Intelligents s'enrichit du 