Grands
projets européens
Du
robot autonome au robot conscient. Un grand programme intégrateur
européen
dossier initié par Jean-Paul Baquiast,
Alain Cardon et Christophe Jacquemin
(26/12/2003)
Définitions
Rappelons que toutes les définitions susceptibles d’être
proposées pour le concept de robot conscient
dépendent, d’abord de la nature des applications
envisagées mais aussi et surtout de l’état
des sciences et des techniques ayant atteint leur état
de maturité à l’époque de référence
où l’on choisit de se placer. Il est certain que
les gains de productivité enregistrés depuis 30
ans par l'informatique, sous forme notamment du rapport performances/prix
des composants et systèmes, vont sauf accidents majeurs
se poursuivre à un rythme exponentiel, en application
de la loi de Moore. Les technologies actuelles ou dérivées
le permettront sans peine, en attendant les solutions encore
futuristes de l’ordinateur quantique et de l’ordinateur
à ADN.
Il est donc raisonnable de penser que, dans 20 ans environ,
on disposera dans le volume d’un PC actuel d’une
capacité de mémoire analogue à celle du
cerveau humain, soit 100 milliards de neurones. Dans l’intervalle,
des solutions logiicielles de plus en plus puissantes seront
mises à la disposition des utilisateurs. De telles puissances
resteront-elles enfermées dans leur boite? Le pari de
la Robotiqueautonome (celle qui fait appel aux solutions évolutives
de la vie artificielle, inspirées du vivant) est de dire
qu’elles permettront aux machines des capacités
d’intelligence et de conscience se rapprochant de plus
en plus, non seulement de celle des animaux, mais aussi de celles-de
l’homme. Pour rester prudents, les spécialistes
espèrent obtenir dans trente ans des systèmes
disposant du niveau cognitif d’un enfant de 5 ans, avec
tous les paliers intermédiaires dans l’intervalle.
A ce stade, on pourra parler sans abus de langage de robots
conscients. Leur conscience sera différente de la nôtre,
moins performante en général et parfois plus.
Nous pourrons dialoguer avec elle. Ce sera une nouvelle ère
dans l'histoire de l'humanité qui s'ouvrira. Ceci d'ailleurs
suscite beaucoup de malentendus et de crainte qu'il faudra dissiper.
On
doit comprendre qu’une telle machine consciente peut être
développée sur n’importe quel support physique
: des réseaux tels qu’Internet associés
à des bases de connaissances de plus en plus riches,
des hyper-calculateurs associés à des instruments
d’observation du monde de plus en plus puissants ou, finalement,
des robots autonomes dotés de plate-formes physiques
de plus en plus puissantes. L’intelligence des robots
autonomes est limitée par leurs capacités d’embarquer
de la mémoire et de l’énergie, mais ces
capacités augmentent tous les jours, avec les progrès
technologiques. La robotique, science des robots, suppose le
recours à toutes les technologies permettant d’observer
le monde (physique, biologique) et d’y agir. Il en sera
de même de la robotique autonome.
Passer
cependant du robot autonome au robot conscient suppose un saut
qualitatif. Il faut que le robot dispose d'architectures telles
que, par émergence, des capacités à se
représenter soi-même dans son environnement apparaissent
et prennent les commandes. On pourrait imaginer que l'homme
programme des fonctions conscientes imitées des siennes.
Mais comme il ne connaît pas exactement ce qui fonde sa
conscience, il peut seulement s'efforcer de simuler sur un système
informatique des fonctions qui, de l'extérieur, ressembleront
aux siennes et pourront interagir avec elles, mais qui ne ne
leur seront pas nécessairement similaires.
Compte-tenu
du nombre considérable des applications permises par
les robots autonomes, nous appellerons dans ce dossier robot
autonome un système doté des capacités
d’intelligence et de conscience permises par l’état
de l’art de l’Intelligence Artificielle évolutionnaire,
couplé avec un robot. Ce couplage est essentiel pour
obtenir des phénomènes de conscience artificielle.
La conscience ne peut naître que de l'interaction d'un
corps (le robot) avec son environnement.
Le robot autonome typique d'aujourd'hui est un ensemble doté
d’un corps et d’un cerveau. Il faut bien comprendre
en quoi il se distingue des robots asservis, puisque c'est à
partir de lui que pourront se développer des robots conscients.
Le corps est constitué d’une plate-forme équipée
de capteurs «sensoriels» permettant d’identifier
l’environnement (par exemple des cellules photo-électriques),
d’ «effecteurs» ou "actuateurs"
permettant les actions motrices (par exemple une main articulée)
et de moyens de propulsion. Le cerveau est constitué
de modules de coordination et d’élaboration de
comportements complexes, reposant sur des logiciels d’intelligence
artificielle dits «évolutive». L’intelligence
artificielle évolutive se distingue de l’intelligence
artificielle pré-programmée en ce sens qu’elle
génère des programmes capables par eux-mêmes
de se reprogrammer, de se réparer et de s’adapter
aux changements de l’environnement.
Les générations précédentes de robots,
robots asservis, encore en usage dans de nombreux domaines,
se répartissent en 2 grandes catégories : le robot
industriel à la programmation déterminée
à l’avance et le robot commandé à
distance (ceux qui explorent les fonds sous-marins ou les planètes,
par exemple). Ces derniers restent sous contrôle d’un
opérateur humain, via des liaisons câblées
ou radio. Le robot autonome au contraire vise à s’affranchir
progressivement des ordres donnés par l’opérateur
humain. Il est doté de capacités d’intelligence
artificielle suffisantes pour lui permettre de survivre dans
un environnement inconnu de lui et changeant. Les marges d’adaptation
demeurent évidemment limitées, mais elles s’élargissent
de plus en plus avec les progrès des sciences cognitives
appliquées à la robotique. Le ministère
de la défense américain et la Nasa, pilotes en
la matière, ne parlent d’ailleurs plus de robot
autonome, mais de « cognitive system ». Un des objectifs
envisagés par la Nasa concerne l’exploration en
profondeur de la planète Mars.
Le
robot conscient pourra être encore plus autonome que le
robot autonome actuel, dans la mesure où, comme l'homme,
il pourra disposer d'une image de lui-même servant de
référence à la façon dont il utilisera
les données reçues de ses organes sensoriels ou
les "émotions" suscitées en lui par
certaines situations. Des systèmes spécifiques
auto-réflexifs lui permettront de s'observer lui-même
en train d'évoluer dans son environnement, de se réorganiser
en permanence afin d'optimiser les réponses qu'il fera
aux sollicitations de celui-ci et finalement de définir
des sratégies pour le futur mises au service de l'amélioration
de sa situation dans le monde. On lira sur ce point la note
scientifique jointe en annexe, due à Alain Cardon.
Applications
Les applications des robots autonomes puis des robots conscients
seront évidemment fonction des capacités d'autonomie
des systèmes tels que définis ci-dessus, à
l’époque considérée. Une prospective
raisonnable peut cependant envisager deux types de retombées
différentes : des applications futures s'inscrivant dans
la poursuite des applications actuelles, et des applications
aussi originales qu'imprévues, qui peuvent véritablement
modifier le rapport de l'homme dans la nature. Nous n'allons
pas ici développer ces dernières, par souci de
ne pas paraître encourager la science fiction. Disons
seulement que l'émergence à côté
de l'homme d'entités dotées d''intelligences supérieures
mais aussi de formes de conscience nécessairement différentes,
posera des problèmes de cohabitation et d'optimisation.
Comment ces robots et les humains (plus généralement
les systèmes vivants) pourront-ils coopérer? Comment
de cette cohabitation les humains et les robots pourront-ils
au mieux profiter pour s'améliorer? On désigne
souvent du terme de post-humains les produits hybrides de cette
coopération. Ils n'auront d'intérêt (pour
l'homme) que s'ils permettent des gains sensibles dans la connaissance
de l'univers et dans la façon de s'y adapter supérieures
à celles de l'humanité actuelle.
En
ce qui concerne les retombées de connaissance plus immédiatement
accessibles à des robots de plus en plus autonomes et
conscients, nous pouvons citer quelques domaines à titre
d'exemple, mais la liste ne cessera de s'augmenter à
l'usage:
la thérapeutique. Les perspectives sont
immenses : développement d’une instrumentation
d’observation fonctionnelle de moins en moins invasive
et de plus en plus profonde, réalisation d’opérations
chirurgicales aujourd’hui impossibles (On évoque
par exemple des micro-robots chirurgicaux naviguant seuls dans
le cerveau pour extraire des tumeurs profondes). La coopération
avec la biologie et la médecine est la condition indispensable
pour de telles performances. Les aspects concernant la recherche
fondamentale sont également considérables. La
robotique d'exploration fonctionnelle du cerveau, associée
aux autres instruments, permettra de commencer à réaliser
cette véritable conquête du Grall que serait un
"Atlas général" intégré,
anatomique et physiologique, de cet organe, le cerveau, dont
nous sommes si fiers.
dans le même esprit, la réalisation de
prothèses non invasives associant le vivant
et l’artificiel, capables de s’interconnecter avec
les organes et les systèmes nerveux du vivant, de remplacer
les fonctions défaillantes et, dans un second temps,
d’offrir à des organismes sains de nouvelles possibilités
physiques ou intellectuelles.
l’intervention dans des milieux interdits
à l’homme. On pense par exemple, en dehors des
environnements industriels dangereux, à l’exploration
de la planète Mars précitée, préparnt
la venue d'équipages humains.
La réalisation d’unités de production
complètes, allant des industries classiques
aux industries en plein développement des nanotechnologies,
des biotechnologies et des logiciels.
La fabrication de robots domestiques et/ou ludiques
dont le marché semble devoir s’accroître
rapidement.
Et enfin la robotique militaire, où
toutes les applications se combineront pour donner des systèmes
capables d’intervenir dans tous milieux et dans des conditions
de plus en plus extrêmes. On ne doit pas fermer pudiquement
les yeux sur ces perspectives. Il s’agit d’enjeux
de puissance incontournables.
Mais
développer des machines de plus en plus autonomes et
conscientes ne produira pas que des bénéfices
directs, sous formes d'applications utilitaires. Ces programmes
auront aussi de très importantes retombées en
matière de sciences fondamentales. Ils permettront notamment:
-
une meilleure compréhension des mécanismes du
vivant. On citera la physiologie et la neuro-physiologie des
organismes. Il est admis depuis longtemps que le travail en
commun des biologistes et des roboticiens permet de faire avancer
conjointement la compréhension et la simulation des systèmes
vivants comme des systèmes artificiels. L’intégration
entre le vivant et l’artificiel ne se limite pas aux systèmes
cognitifs, tels que le cerveau. Elle concerne l’ensemble
des systèmes d’adaptation des organismes vivants
à leur milieu. Elle débouche, en ce qui concerne
la robotique, sur la bionique, c’est-à-dire sur
la capacité de doter des robots de capteurs et d’effecteurs
reproduisant (ou améliorant) ceux des organismes vivants.
- une meilleure compréhension des mécanismes du
langage, de l’apprentissage, de l’acquisition de
connaissances qui sont à la source de l'émergence
de la conscience dans les socités humaines. Il s’agit
pour les américains d’une retombée fondamentale
de l’IA évolutionnaire : comment comprendre les
mécanismes individuels et sociaux de la cognition et
de l’invention, afin de les optimiser. C'est là,
pour toutes les sociétés et culture en compétition
darwinienne, un enjeu considérable. Ce seront toutes
les sciences de l’éducation et de la communication
qui seront concernées, sans mentionner les autres sciences
humaines et sociales.
On
voit que le projet de Robot conscient que nous proposons ici
se situera au cœur d’un vaste domaine interdisciplinaire,
allant des sciences de l’automate aux neurosciences intégratives
et aux sciences cognitives, en passant notamment par la biologie
et le bio-mimétisme. Les sciences sociales et humaines
seront également
Questions
politiques et sociales
Dans les pays qui, comme les Etats-Unis et le Japon, considèrent
les divers aspects de la robotique et de la vie artificielle
comme un enjeu de pouvoir militaire ou économique à
déployer dans leurs zones géographiques d’influence
ainsi que dans l’espace, la robotique autonome bénéficie
d’une vision et d’une stratégie globales
ainsi que de moyens importants en chercheurs et en crédits.
Mais, même dans ces pays, on note de plus en plus de débats
sur les conséquences économiques et sociales de
l’explosion attendue de la robotique autonome. Les questions
en discussion concernent :
l’emploi. Il est indéniable que les robots
se substitueront de plus en plus à des emplois d’exécution
jusqu’ici préservés. Ne pas prévoir
les résistances (qualifiées dans les pays anglo-saxons
de « luddisme ») serait condamner la robotique.
Il est indéniable qu’en contrepartie, comme l’informatique
et les télécommunications, la robotique créera
un certain nombre d’emplois, notamment qualifiés
et très qualifiés. Par ailleurs, elle aura un
effet démultiplicateur d’activités considérables,
dans tous les secteurs où elle apportera de nouveaux
outils, par exemple la formation professionnelle, l’enseignement,
les activités culturelles, etc. En Europe, la sagesse
voudrait que l’on n’attende pas les créations
de nouveaux emplois pour préparer la reconversion des
personnels qui seront touchés par la robotisation généralisée.
Il faudrait aussi adapter dès maintenant l’appareil
d’enseignement et de formation professionnelle, ce qui
est loin d’être le cas.
l’économie. Nous avons dit qu’à
terme, les retombées en termes de croissance risquent
d’être importantes. Mais dans l’immédiat,
il faut investir, sans retour sur investissement immédiatement
prévisible. Les investissements en robotique sont globalement
peu coûteux, par rapport aux sommes consacrées
à de grands équipements traditionnels. Encore
faut-il accepter de les consentir. Le grand stimulant aux Etats-Unis
est actuellement la politique de défense, qui a pris
le relais des perspectives de commercialisation dans le privé
(par exemple dans le domaine des robots domestiques et de compagnie).
Il faut trouver en Europe de bonnes raisons, outre le militaire,
de financer les recherches et les développements. La
recherche publique fondamentale a encore à y jouer un
rôle considérable, notamment dans le domaine des
machines pensantes. Mais il faut aussi intéresser les
industries à des applications rentables. On peut penser
que les secteurs des robots d’exploration et médicaux,
où nous avons déjà de bons atouts, pourraient
servir de locomotive. Au plan européen, de grands projets
comme l’envoi de robots autonomes sur Mars pourrait permettre
de focaliser l’attention du public. C’est l’objet
du présent dossier d’élargir les perspectives.
Un
programme scientifique intégratif ou convergent
Ceux
qui proposent la réalisation d’un système
conscient, aux Etats-Unis et au Japon, le font parce qu’un
tel programme est aujourd’hui le seul capable de réaliser
la coopération des principales sciences et techniques
considérées comme stratégiquement essentielles
dans les prochaines décennies. Il s’agit non pas
d'une coopération sur le papier, mais d’une coopération
axée sur la réalisation progressive de résultats
concrets, c’est-à-dire s’inscrivant dans
une perspective de développement évolutionnaire.
On pourra
parler d’une convergence intégrative, étant
entendu que l’intégration ne supposera pas en ce
cas disparition de la spécificité de chaque science,
mais sa mise en symbiose avec les autres. Le processus est banal
dans toutes les formes d’évolution, et produit
des Touts qui sont plus que la somme de leurs parties. Il reste
très difficile en sciences, compte-tenu de l’enfermement
persistant de chaque communauté dans sa culture.
La réalisation d’un système conscient a
l’avantage de permettre la convergence intégrative
d’un nombre considérable de sciences et des technologies
qui leur sont associées. Il s’agit même pratiquement
du seul programme scientifique imaginable susceptible d’obtenir
ce résultat. Ceci ne se fera pas d’un coup, mais
par l’appel progressif à des profils hybrides,
dans lesquels de plus en plus de jeunes chercheurs seront tentés
de s’investir.
Rappelons
qu'en Europe, des dizaines de laboratoires et d'entreprises
travaillent déjà dans le domaine de la robotique
autonome et de la machine pensante. Nous ne pouvons pas en donner
la liste ici, qu'ils nous en excusent. Mais on observe en général
une grande dispersion des efforts et des financements, ne permettant
pas de franchir le stade du produit de laboratoire et d'atteindre
celui d'une filière scientifique et économique
complète. Il en résulte une très mauvaise
information du grand public et des décideurs budgétaires,
tant sur l'état de l'art que sur les enjeux.
On donnera ci-dessous, sans prétendre à l’exhaustivité,
une première liste des disciplines impliquées
:
Les
sciences et technologies de l'information
L’informatique, entendu au sens de la computation
mais aussi des composants et des logiciels servant de support
à cette computation. Ce sont les progrès exponentiels
de cette science qui tireront véritablement les connaissances
dans les autres sciences, compte-tenu du rôle maintenant
pris par les instruments (où l’informatique est
indispensable) et par les simulations en ordinateur.
L’intelligence artificielle. Celle-ci est encore
éclatée en sous-disciplines ayant tendance à
s’ignorer, mais qui se retrouveront dans la réalisation
du projet. Citons les principaux : apprentissage, fouille et
extraction de données – systèmes multi-agents
– intégration automatique et IA - acquisition de
connaissances – gestion de réseaux - évolution
artificielle et programmation évolutionnaire –
applications IA (industrie, robotique, etc.)…
La robotique. Celle-ci, outre une composante
IA de plus en plus importante, quand il s’agit de robotique
autonome (programmation évolutionnaire notamment), intègre
de nombreuses disciplines venant de l’instrumentation,
de l’ingénierie, de la mécanique et de l’électro-mécanique.
A cheval entre l’informatique, l’IA et la robotique
se trouve la vie artificielle dont les applications se développent
de façon très rapide..
Les
sciences de la vie
Il s’agit
de sciences aussi importantes que les précédentes,
dans la réalisation d’un système conscient.
Nous avons vu en effet qu’un tel système devra
s’appuyer en permanence sur les travaux menés par
les sciences de la vie mais qu’en contrepartie il permettra
à celles-ci de se donner des modèles de plus en
plus performants pour la compréhension de la vie, sous
ses diverses formes. Ceci sera encore plus vrai lorsque se développeront
les applications réalisant des symbioses entre le vivant
et l’artificiel, soit au niveau cellulaire, soit au niveau
des organismes entiers. Le monde des sciences de la vie est
immense. Nous retiendrons de façon un peu artificielle
le découpage suivant :
Les neurosciences intégratives, qui étudient
l’anatomie et le fonctionnement des systèmes nerveux.
La physiologie intégrative qui vise le même
objectif, en se plaçant au niveau de l’organisme
entier – mais aussi de plus en plus au niveau de la cellule
et de ses composants.
La génétique et la protéomique.
Celles-ci restent encore axées sur la biologie moléculaire
mais perçue dans une optique physiologique évolutionnaire:
rôle des gènes dans le développement, par
exemple. Il s’agit de modèles dont la robotique
évolutionnaire ne peut plus se passer dorénavant.
Les sciences de la cognition: Elles prennent aujourd’hui
une grande importance stratégique, dans la mesure où
elles s’intéressent à la façon dont
les individus et les sociétés acquièrent
et développent leurs connaissances, c’est-à-dire
leurs moyens de survie dans un environnement de plus en plus
complexe. Il en résulte que l’on ne peut envisager
la réalisation d’un système conscient sans
étudier les processus par lesquels celui-ci pourra devenir,
non seulement conscient mais intelligent. Le secteur est nécessairement
trans-disciplinaire, en coopération avec les sciences
humaines et sociales et la philosophie. Mais ceci est encore
loin d’être admis.
On retrouve «en tête» des sciences de la cognition
les neurosciences, déjà citées.
Il faut mentionner ensuite l’étude des représentations
et des comportements (création et échange
des représentations, rôle de celles-ci dans l’évolution
des cultures), l’étude des apprentissages,
l’étude des sociétés intelligentes
(smart) et complexes.
Il est généralement admis aujourd’hui que
l’influence des déterminants de type biologique
(pour ne pas dire génétique) est aussi importante
que les processus d’échange et de construction
dits culturels dans la formation des sociétés
(coopération nature/culture). C’est ce que défendent
notamment la psychologie et la sociologie évolutionnaires.
Les nanosciences et nanotechnologies
On confond parfois les nanotechnologies avec les biotechnologies.
Les unes et les autres se situent au niveau de la molécule
et souvent de l’atome. Mais les biotechnologies concernent
le vivant, tandis que les nanotechnologies s’intéressent
plutôt aux matériaux et aux machines – différences
qui n’empêche pas d’ailleurs leur coopération
dans un nombre de plus en plus grand d’applications :
les bio-nanotechnologies. Avec les nanotechnologies, on travaille
à l’échelle du nanomètre, c’est-à-dire
du milliardième de mètre. Une molécule
d’ADN mesure quelques nanomètres, un atome (par
exemple de silicium) quelques dixièmes de nanomètre.
A ces échelles, les lois de la physique ne sont plus
celles de notre monde matériel (macroscopique) mais celles
du monde quantique. Depuis les années 1980, de nombreux
laboratoires ont commencé à travailler à
ces niveaux atomiques et subatomiques. Le microscope à
effet tunnel, inventé en 1982, a permis de déplacer
les « atomes », afin de les recombiner en formes
nouvelles de matériaux et de machines. Aujourd’hui,
de nombreux dispositifs utilisant les lasers, les champs magnétiques,
les synthèses chimiques, permettent d’intervenir
au niveau des molécules et des atomes et de modifier
leurs relations. Ceci se fait aussi bien dans la cellule vivante,
dont on comprend ainsi mieux les mécanismes intimes,
que sur des composés inertes.
Les nanosciences interviendront dans la réalisation d’un
système conscient à de nombreux niveaux : les
matériaux, les sources d’énergie, les composants
(en attendant la mise au point de l’ordinateur
quantique). Mais plus généralement on
verra se développer une nanorobotique autonome,
avec les nanobots. Ceux-ci, regroupés en essaims intelligents,
pourront remplir de nombreuses missions, notamment thérapeutiques
et exploratoires.
On voit qu’à échéance de quelques
années, il sera impensable d’envisager la réalisation
de machines et systèmes conscients sans en étudier
les versions nanométriques .
Quelle
démarche préconiser concernant l'Europe ?
Les ressources
européennes en intelligence artificielle et en robotique
sont trop diverses pour qu'il soit possible d'envisager la mise
en place d'un grand programme intégrateur destiné
à réaliser une ou plusieurs machines conscientes
européennes, analogue à ce que serait un programme
d'exploration de la planète Mars. Néanmoins, à
l'appui d'une éventuelle volonté politique forte
des européens, relayée par leurs gouvernements,
il faut envisager des procédures de recherche/développement
en rupture avec la dispersion et la faiblesse des moyens mis
actuellement en œuvre dans les pays ou au niveau de l'Union
européenne.
Ces procédures
doivent faire l'objet de discussions entre scientifiques et
représentants politiques. Nous ne pouvons ici anticiper
leurs résultats. Signalons seulement quelques contraintes
:
Il faut disposer d'un programme cadre suffisamment ambitieux,
s'étendant sur plusieurs années et susceptible
d'assure la synergie entre développeurs de diverses origines
à partir de spécifications relativement homogènes.
Ce programme doit être doté de ressources budgétaires
suffisantes et suffisamment durables pour être pris au
sérieux par les laboratoires et les industriels. A titre
de première approximation, on pourrait envisager une
somme minima de 20 millions d'euros par an pendant 10 ans, à
réévaluer en tant que de besoin.
On doit envisager, peut-être pas un seul maître
d'ouvrage, mais quelques maîtres d'ouvrages travaillant
en réseau, assurant le travail de définition et
mise à jour des spécifications, appels d'offres,
recette et évaluation des résultats, communication
d'ensemble. Ces maîtres d'ouvrage eux-mêmes pourraient
provenir d'horizons scientifiques et technologiques différents
(le spatial, le militaire, les sciences cognitives…) mais
ils devraient s'accorder sur des solutions "transportables"
d'un domaine à l'autre.
On associera si possible les industriels à la définition
des spécifications et aux financements, mais il ne faudra
pas oublier que la réalisation d'un robot conscient suppose
des recherches fondamentales et à long terme très
importantes, qui ne peuvent être conduites qu'au sein
et avec la déontologie du service public.
La coopération avec les concurrents étrangers
(USA, Japon) n'est évidemment pas à exclure, mais
elle devra se faire sur un pied d'égalité et non
de sous-traitance (mode de collaboration que la Darpa et la
Nasa tendent à généraliser).
Pour
en savoir plus
Note
scientifique, par Alain Cardon
Page d'accueil
