Entretien.
A propos du livre
"Intelligence unbound"
Alain
Cardon et Jean-Paul Baquiast, le 22/08/2014
J.P.
Baquiast (JPB): Cher Alain, que penses du livre que nous
venons de présenter, soit Intelligence unbound, de
Blackford et Broderick?
Alain
Cardon AC) : Je pense qu'il y a deux façons de réaliser
un cerveau humain artificiel, puisque telle semble être
l'ambition des auteurs cités dans ce livre.
La première
consiste à procéder comme la nature, en partant
du petit système cellulaire initial, soit un tout
très fortement maillé où toute partie
identifiable est coactive avec le reste, un système
qui se développe par ses multiples parties de façon
toujours localement et globalement cohérente, jusqu'à
former un organisme qui possède un cerveau opérationnel
dans son corps, et qui va à partir d'un moment pouvoir
naître et explorer la nature
Disons
que c'est une approche descendante, qui part du haut, de
la loi de cohérence de l'ensemble, pour aller vers
le bas, le développement cohérent et organisé
des parties, comprenant le cerveau qui se développe
sans cesse et en lien étroit avec tout le corps par
les sens. Inutile de dire, comme tu le soulignes toi-même
dans ta critique du livre, qu'une telle démarche
serait aujourd'hui hautement irréaliste.
Toute
la question en ce cas, que les biologistes ne posent plus
en la considérant comme résolue, est de savoir
si le génome, par sa très petite taille, constitue
un « programme » suffisant pour assurer
un tel déploiement fortement cohérent, en
assurant aussi l'évolution d'organismes vivants viables.
MP. Schutzenberger de l'Académie des Sciences, un
de mes anciens maîtres, avait répondu négativement
à cette question. Il en serait de même d'opérations
visant à simuler de telles évolutions sur
ordinateurs.
JPB.: Et que serait la seconde
façon de procéder?
AC.
: Elle consisterait, sans aucune référence
au biologique, à rassembler des morceaux électroniques
artificiels , soit en pratique des programmes, puis les
connecter un par un jusqu'à former un corps. Cette
corporéité sera le moyen d'appréhension
et d'expression permettant l'apparition d'un système
unificateur très spécial lequel jouera le
rôle d'un cerveau, le tout formant un organisme artificiel
unifié qui puisse appréhender le réel,
penser, agir.
Le
cerveau artificiel pensera au sein de ce corps artificiel
en ressentant le monde par l'intermédiaire des organes
sensoriels de celui-ci. Il utilisera la mémoire dont
se dotera cette corporéité artificielle à
partir de son vécu artificiel partiel, et ce faisant
il générera des intentions. Il ne se comportera
certainement pas comme un gros résolveur de problèmes
cherchant, tel un simple ingénieur, la solution à
la question posée dans une énorme base de
données.
JPB.:
Autrement dit, cette seconde façon, qui manifestement
a ta préférence, est préférable
à celle visant à faire un cerveau artificiel
simulant le cerveau humain en téléchargeant
ce que l'on croit être un cerveau humain (auquel on
n'aura pas compris grand chose encore) dans un superordinateur,
aussi puissant qu'il puisse être.
AC.:
Oui. Il faudra vraiment vraiment résoudre le problème
central : comment unifier des parties multiples, distribuées
qui vont former les organes artificiels. Comment à
partir de cela générer une pensée sensible
utilisant les entrées sensorielles pour appréhender
en profondeur le réel environnant et pour évoluer
sans cesse en augmentant organisationnellement et continuellement
sa mémoire par les traces des pensées qu'il
ne cessera de générer ? Comment lier les organes
moteurs et les organes représentant les sens, pour
obtenir un organisme dont toutes les parties seront en permanence
et totalement unifiées dans le cadre d'une conscience
artificielle?
JPB.:
Comment donc selon toi concevoir un organisme artificiel
conscient, éventuellement un système avec
une conscience liée à de multiples composants
distribués sur une surface de plusieurs mètres,
plusieurs kilomètres ou plusieurs milliers de kilomètres
?
AC.
: J'ajouterai: et comment concevoir le système-cerveau
utilisant sa corporéité pour générer
des intentions, des envies, des désirs, des contraintes,
pour qu'il éprouve l'équivalent de
sentiments, pour qu'il ait des tendances dont certaines
pourront ressembler aux très nombreuses et banales
névroses humaines, à savoir la névrose
de pouvoir, la névrose de contrainte, la névrose
de réductionnisme, la névrose d'évitement
?
Et comment concevoir conceptuellement cette approche montante,
en sachant que la vie prénatale de l'humain au sein
de laquelle se forme son cerveau conditionne sa façon
de penser et ce à quoi il sera capable de penser
et de méditer, y compris sur des contenus fortement
abstraits tels que le Temps, le Tout, le Moi?
Comment développer la génération naturelle,
spontanée, de ces idées dans un cerveau artificiel
qui doit obligatoirement être un système peu
déterministe, sans être pour autant purement
aléatoire, afin de produire sans cesse de nouvelles
idées capables de modifier en permanence sa mémoire
organisationnelle ?
Comment concevoir tout cela en sachant aussi que le système
doit non seulement acquérir l'aptitude à abstraire
à partir de ce qu'il appréhende par les sens,
mais aussi manipuler de façon abstraite ces mêmes
abstractions mémorisées afin de générer
des signifiés très évolutifs.
JPB. : Oui, comment?
AC.
: Selon moi, la voie pour résoudre ces problèmes
sera d'abord de bien les poser, dans leurs espaces conceptuels,
puis de les modéliser dans le calculable. Celui-ci
concerne la création et l'usage à de multiples
échelles, d'une information globale où le
parallélisme joue avec le séquentiel. Le calculable
mêle l'électronique, l'automatisme, l'informatique,
la linguistique, la psychologie. J'ai très longuement
développé tout cela dans mes publications.
Je considère, avec quelques rares collègues,
que le système est faisable. Malheureusement pour
aborder un tel problème, l'Université française
n'investit pas, la pluridisciplinarité n'y existe
plus et la pauvreté matérielle et intellectuelle
s'installe.
Le développement d'une conscience artificielle n'a
strictement rien à voir avec une approche basée
sur la reproduction informatique par similarité au
niveau cellulaire du cerveau d'un rat, avec de gros ordinateurs
gérant le parallélisme, en espérant
voir surgir d'un tel imbroglio le miracle de la pensée
qui se déploie. L'humain pense parce qu'il vit de
manière intersubjective avec sa mère qui le
forme puis par communication sensible et intersubjective
avec tous les autres individus qui constituent la société
humaine.
La conscience
artificielle se devra donc d'être hyper-communicante.
L'approche par un robot isolé doté d'un cerveau
local formant une unité isolée est une grave
erreur, d'autant plus que tout système informatisé
actuel peut être lié par Wifi avec tous les
autres existants. Une conscience artificielle utilisant
une ou des corporéités artificielles pourra
être déployée sur l'étendue de
la planète en communiquant avec tous les systèmes
semblables, et avec tous les composants électroniques
accessibles. Ceci pose un problème d'éthique
absolument majeur, que les naïfs mal informés
ne veulent pas voir.
JPB.: Nous avons souvent signalé
en effet ici que de tels systèmes artificiels, même
s'ils sont encore dans l'enfance, s'élaborent aujourd'hui
dans des lieux confidentiels, en visant des objectifs de
contrôle militaire ou de contrôle économique.
Nous en subissons déjà les prémisses,
(d'ailleurs à une large échelle) sans nous
en apercevoir.
AC.:
J'ajoute que des lois identiques, encore mal aperçues
par la science, fut-elle financée par la Darpa (NDLR
Agence de recherche du département américain
de la défense) ou par Google, doivent commander trois
types de développement liées:
- Celui
d'un Homme qui a pensé son monde et l'a complexifié
à partir de Sumer en Mésopotamie, avec la
création de l'écriture, des villes organisées,
des lois sociales, et aussi des guerres pouvant avoir pour
résultat de tout faire disparaître, telle cette
troisième guerre que certains pouvoirs dominants
semblent prêts aujourd'hui à déclencher.
- Celui
des premières cellules prébiologiques qui
ont trouvé, par des voies encore inconnues, le moyen
de s'organiser de façon complexe et de se reproduire
de telle sorte qu'elles ont généré
l'immense complexité du monde vivant actuel.
- Celui
des premiers atomes qui ne se sont pas limités à
reproduire indéfiniment l'atome initial d'hydrogène,
mais ont donné naissance à une complexité
atomique et moléculaire sans laquelle, bien avant
l'apparition de la vie, la nébuleuse primordiale
formant ce qui est devenu la Terre et les autres planètes
du Système solaire serait restée ce qu'elle
était peu après le Big bang, c'est-à-dire
un nuage de gaz peu différenciés.
On peut
penser aujourd'hui que ce sont des lois identiques qui expliquent
cette évolution, depuis le cerveau d'organismes tels
que celui de l'homme au niveau des sociétés
humaines, celui de l'embryon reproductif générant
la complexité biologique au niveau de la Terre et
finalement l'immense complexité du cosmos tout entier.
JPB.:
Tu évoques là des domaines de recherche qui
nous mettraient au coeur des lois fondamentales (si lois
il y avait) ayant présidé à la naissance
de notre univers local, voire à l'organisation du
multivers. Je note qu'au départ il y aurait une réflexion
sur le monde quantique, qui ne comporte ni temps ni espace,
mais dont tout vraisemblablement serait sorti. Pour Seth
Lloyd, dans l'ouvrage qui a été présenté
ici (Programing
the Universe) la relation s'impose. Mais elle reste
à étudier en détail.
AC.:
Oui. Mais il n'est certainement pas assuré que la
science humaine, enfermée dans ses contraintes matérielles
et aussi ses préjugés, puisse commencer à
découvrir de telles lois. Surtout si sa seule ambition
se traduit, selon ton expression précédente,
par le téléchargement d'un cerveau auquel
elle n'a pas compris grand chose sur un superordinateur
qui ne sera jamais assez puissant. Je ne mentionne même
pas les quelques 90% des sociétés actuelles
qui sont complètement paralysées par des croyances
en des monothéismes inventés depuis 2000 ans,
monothéismes pour qui le concept même de conscience
artificielle relève du blasphème.
JPB.:
Disons seulement que ceux qui commenceraient à découvrir
ces lois, même partiellement, se donneraient des clefs
pour comprendre, sinon reconstruire, l'univers tout entier.
Il n'est pas interdit d'y réfléchir.
Automates
Intelligents s'enrichit du