Retour
au sommaire
 Automates
Intelligents s'enrichit du logiciel
Alexandria.
Double-cliquez sur chaque mot de cette page et s'afficheront
alors définitions, synonymes et expressions constituées
de ce mot. Une fenêtre déroulante permet
aussi d'accéder à la définition
du mot dans une autre langue (22 langues sont disponibles,
dont le Japonais). |
Article.
Conscience humaine et conscience artificielle. Un couple fécond
par Jean-Paul Baquiast 04/08/2008
L’objet
de cet article est de proposer au lecteur une réflexion
sur les relations de la conscience artificielle avec la
conscience humaine, celle la même dont nous expérimentons
tous les jours les vertus – et les limites - en ce
qui nous concerne.
Le
besoin d’un tel travail apparaît de plus en
plus évident, au fur et à mesure que des spécialistes
décrivent en public, par exemple dans des Clubs de
sciences ou pour la télévision, les progrès
constants de la robotique en matière de conscience
artificielle. Au-delà de la curiosité, la
première réaction semble être l’effroi.
Les commentaires des lecteurs faisant suite aux articles
publiés sur ce thème dans notre revue suscitent
la même constatation. Imaginer des robots capables
de comportements conscients comparables à celles
des hommes semble troubler profondément beaucoup
de personnes.
Pourquoi
cela ? Eliminons d’emblée la position des spiritualistes
radicaux pour qui l’esprit humain et la conscience
par laquelle il s’exprime sont des propriétés
d’essence divine qu’il serait sacrilège
de vouloir comprendre ou reproduire par la science. Les
religions monothéistes et sans doute aussi la plupart
des autres croyances religieuses ont du monde une représentation
dualiste. Il y a d’une part la matière et d’autre
part le spirituel lequel s’apparente au divin. Les
sciences ont le droit d’étudier voire de reproduire
les phénomènes matériels. Mais les
faits de conscience ne peuvent et ne doivent pas être
l’objet d’études scientifiques. Ils relèvent
de la foi et doivent être compris à travers
les révélations qu’en ont faites les
grands textes religieux et les prophètes ou prêtres
seuls habilités à les interpréter.
Cette position est qualifiée de dualisme par les
philosophes. On sait que depuis la période dite des
Lumières, le point de vue contraire, dit moniste,
postule qu’il n’est pas possible de séparer
l’esprit de la matière. Il s’agit de
deux versions interagissantes d’une même réalité.
Le monisme, sous sa forme moderne, remonte à certains
philosophes de l’antiquité grecque. Il a été
illustré par les écrits de Spinoza. Celui-ci
n’était pas un matérialiste au sens
actuel du terme, mais plutôt un panthéiste,
pour qui la divinité est immanente à toutes
choses. . Cependant pour lui, et peut-être pour cette
raison, il ne fallait pas séparer l’esprit
de la matière.
Le
point de vue moniste, nous le verrons, est repris par tous
ceux qui étudient la conscience, que ce soit les
neuroscientifiques ou les roboticiens. Un certain nombre
de ces scientifiques sont croyants, mais ils considèrent
comme possible de séparer celles de leurs convictions
qui relèvent de la foi religieuse et celles qu’ils
acquièrent en étudiant le monde à travers
les instruments de la rationalité et de la science
expérimentale. On ne peut pas nier cependant que
depuis les Lumières, les recherches scientifiques
se sont attachées à démontrer la vanité
et le danger de croyances traditionnelles inspirées
par les religions, pour qui certaines questions comme les
origines de l’univers, la vie et la conscience ne
doivent pas être matière à recherche
scientifique. Les sciences sont donc globalement matérialistes.
Lorsqu’elles s’efforcent d’expliquer la
vie et la conscience, elles sont a priori considérées
comme suspectes par les religions.
Dans
le cas particulier de la conscience artificielle, les réticences
ou les craintes qu’inspire ce concept ne relèvent
pas uniquement de croyances spiritualistes intégristes,
même si celles-ci sont actuellement de plus en plus
répandues et intolérantes. On les rencontre
aussi chez des personnes sensibles aux conséquences
sociales ou politiques qui pourraient découler de
la généralisation dans le monde moderne de
systèmes technologiques ou robotiques dotés
d’aptitudes à la conscience. Le public non
spécialiste est en train de se rendre compte que
le thème du robot humanisé, ayant seulement
jusqu’ici fait l’objet de scénarios de
science-fiction, va bientôt devenir réalité.
Or beaucoup s’en inquiètent.
Autrement
dit, beaucoup de gens n’envisagent pas avec optimisme
les prévisions aujourd’hui présentées
par la littérature scientifique ou les vulgarisateurs
relativement à l’avenir de conscience artificielle.
Que disent ces auteurs ? Si les sciences et technologies
de l’information et de la communication (STIC ou infotechnologies)
se développent au même rythme accéléré
qu’actuellement, si par ailleurs aucune catastrophe
globale ne vient empêcher leur diffusion dans le monde,
nous côtoierons quotidiennement, dans la prochaine
décennie ou au plus tard dans les vingt prochaines
années, des systèmes artificiels capables
de performances corporelles, intellectuelles et spirituelles
analogues voire parfois supérieures à celles
des humains d’aujourd’hui. Ces systèmes,
de plus, seront autonomes, c’est-à-dire capables
de se comporter en fonction de leurs propres intérêts,
désobéissant le cas échéant
aux ordres donnés par les humains. On parle d’ailleurs
à leur égard de robots plus ou moins autonomes.
L’image
du robot autonome est depuis longtemps présente dans
l’imaginaire collectif. Sans remonter aux origines,
il suffit de mentionner HAL, l’ordinateur prenant
le pouvoir présenté par le film de Stanley
Kubrick 2001, Odysée de l’Espace (1968). Aujourd’hui,
le film WALL. E, produit par les studios Pixar, modernise
cette représentation. Il met en scène des
robots dotés de toutes les qualités d’intelligence
et de sensibilité propres aux humains. Le petit robot
nettoyeur WALL. E, resté seul sur Terre après
que l’humanité l’ait désertée,
a développé une forte personnalité
... Extrêmement curieux, il se sent trop seul. Mais
sa vie sera bouleversée par l’arrivée
d’une petite « robote » extraterrestre
prénommée Eve. Tombant instantanément
amoureux d’elle, WALL. E va tout mettre en œuvre
pour la séduire. Les réalisateurs du film
ne donnent pas beaucoup de précisions sur les solutions
technologiques permettant à ces deux robots de disposer
de qualités cognitives comparables à celles
des hommes, mais les spécialistes savent qu’ils
se sont bornés à anticiper sur des recherches
actuellement en cours.
Il
faut reconnaître à sa décharge que l’argument
du film WALL.E n’exploite pas la peur, trop souvent
utilisée par d’autres pour générer
un intérêt dramatique. Il ne nous montre pas,
comme le font beaucoup d’autres films ou séries
TV, des robots destructeurs. Il nous propose au contraire
d’entretenir avec ses héros une relation d’empathie.
Mais dans la vie réelle, la fréquentation
de véritables robots autonomes, dotés de consciences
et de sensibilités artificielles, ne provoquera pas
seulement de l’empathie.
Beaucoup
d’humains seront près à construire avec
des robots-compagnons, selon l’expression consacrée,
de véritables relations d’amitié. De
premiers exemples existent, autour de produits japonais.
Mais pour beaucoup d’autres humains, ces possibilités,
comme toutes celles d’ailleurs intéressant
le développement des sciences, susciteront d’abord
de la méfiance. Les scientifiques et ceux qui financent
leurs recherches ne vont-ils pas, selon le mot répandu,
jouer les apprentis sorciers. Ne vont-ils pas mettre en
circulation des entités non humaines qui, soit de
leur propre chef, soit à l’incitation d’humains
« malveillants » (dictateurs, terroristes, pervers)
se retourneront contre les humains pour les contrôler
voire les détruire ?
Il
est évident que ces risques existent. Mais ils ne
se limitent pas à la robotique. Le chemin actuellement
suivi par l’espèce humaine montre que celle-ci
est en train de modifier non seulement l’environnement
terrestre, avec les risques que l’on sait, mais ses
propres caractéristiques biologiques, notamment génétiques
et épigénétiques . Elle peut modifier
également, sans faire encore appel à l’intelligence
artificielle (que nous désignerons dans la suite
de cet article par l’acronyme IA), mais simplement
avec de simples drogues sinon par l’abus des spectacles
télévisuels, la façon dont fonctionnent
les cerveaux. Personne n’est en mesure aujourd’hui
de pronostiquer les effets à court terme ou à
long terme de ces différents développements.
Faut-il envisager des catastrophes plus ou moins étendues,
touchant tous les écosystèmes ? Peut-on au
contraire imaginer qu’une humanité renouvelée,
parfois qualifiée de post-humaine, puisse en émerger
? Dans l’incertitude, faudrait-il appliquer un principe
de précaution radical en interdisant toutes les recherches
? Mais qui pourrait ou qui voudrait procéder à
de telles interdictions, à supposer qu’elles
aient quelques chances de succès ?
Il
faut bien admettre que des processus évolutionnaires
semblant dépasser largement les capacités
d’évaluation et plus encore d’intervention
des organismes politiques régulateurs sont en œuvre,
impliquant la participation plus ou moins passive de milliards
d’hommes. On ne voit pas encore s’exprimer,
sauf marginalement, de volontés conscientes visant,
sinon à bloquer ces processus, du moins à
les rationaliser. Les idéologues de la croissance
s’en réjouiront. Pour eux de tels processus,
même et surtout s’ils ne sont pas régulés,
apporteront de toutes façons un progrès à
l’humanité. Mais cet optimisme est de moins
en moins partagé, face aux dégâts provoqués
par la croissance.
Les
craintes que suscite la conscience artificielle rejoignent
alors les craintes suscitées par cette course irrationnelle
à la croissance dans laquelle l’humanité
semble engagée et dont on voit de plus en plus les
limites. Non seulement l’apparition de consciences
artificielles risquerait d’apporter de nouveaux éléments
incontrôlables à l’explosion technoscientifique,
mais elle risquerait de miner la confiance portée
aux mécanismes de régulation volontaire reposant
sur des prises de conscience politiques. Les militants de
la décroissance ou du simple développement
dit durable affirment qu’au moment où l’on
mesure le peu de poids de la perception des risques, face
à des phénomènes se déroulant
avec l’implacabilité aveugle de tsunamis, il
serait insensé de diminuer encore l’efficacité
de la conscience humaine comme instrument d’un pilotage
volontaire de l’avenir, en l’assimilant à
des mécanismes de conscience artificielle relevant
d’automatismes primaires.
Pourquoi
se méfier de la conscience artificielle ?
Il
faut élargir cependant le débat en reconnaissant
que les procès faits à la conscience artificielle
rejoignent un procès plus général fait
à la science dans des sociétés développés.
Celles-ci pourtant doivent en partie leurs succès
aux constructions permises par cette même science.
Or aujourd’hui la science, comme les applications
technologiques qui en découlent, paraissent de moins
en moins capables, contrairement à ce qu’espéraient
les Encyclopédistes du siècle des Lumières
et leurs successeurs, de faire triompher les règles
de la Raison face aux préjugés obscurantistes
imposées par les religions et les mythologies, elles-mêmes
relayées par les illusionnistes des fausses sciences.
Sans nier les mérites de la rationalité, s’exprimant
dans le cadre de la pratique scientifique expérimentale
(pour qui toute hypothèse doit en principe être
confirmée par une expérience objective), de
plus en plus de gens, y compris des scientifiques eux-mêmes,
se méfient des abus qui peuvent être faits
de la science. 1)
Il
y a d’abord les abus du scientisme. Celui-ci est souvent
décrit comme une perversion de la démarche
scientifique. Le scientisme, selon ses détracteurs,
refuse de prendre en considération les manifestations
de l’esprit et du corps qui ne peuvent être
analysés et reproduits par des méthodes scientifiques
classiques, à base de modèles mathématiques
et logiques rigoureux. Un tel scientisme éloigne
du domaine de l’étude scientifique des phénomènes
et questions de grande importance que précisément
des sciences modernes plus ouvertes s’attachent à
étudier et intégrer : les sentiments, l’esthétique,
les valeurs morales, la réflexion critique sur les
finalités.
Il
est évident que la réalisation de modèles
de conscience artificielle qui seront nécessairement,
à leurs débuts, simplificateurs, suscitera
la crainte de voir le réductionnisme scientiste s’emparer,
entre autres domaines, des sciences humaines et cognitives.
Or pour celles-ci, comme d’ailleurs pour le bon sens
ordinaire, les réalités complexes que sont
l’esprit humain et la conscience ne doivent pas être
niées ni artificiellement simplifiées. La
même crainte d’excessive simplification avait
d’ailleurs été évoquée
au début de l’informatisation de la société.
En ce cas, l’expérience a montré que,
tout au moins dans les sociétés démocratiques,
les informaticiens n’ont pas véritablement
pris le pouvoir. Sera-ce le cas en matière de robotique
?
On
pourrait se rassurer en considérant (à tort)
que les recherches sur la conscience artificielle n’influenceront
pas les neurologues et psychologues qui étudient
le cerveau humain et ses manifestations. Les deux mondes,
celui de la machine et celui du vivant, sont suffisamment
éloignés l’un de l’autre pour
que des simplifications abusives ne puissent être
déduites du premier monde et imposées au second.
Mais l’expérience montre que des relations
existent de plus en plus. Depuis les années 1970,
où l’IA a véritablement décollé,
en conséquence du perfectionnement des composants
et des programmes informatiques, les neurosciences et les
sciences cognitives se sont considérablement inspirées
des progrès de l’IA et de la robotique. En
fait, les échanges se sont faits dans les deux sens.
Chaque acquis de connaissance obtenu dans un domaine a été
exploité par l’autre. Les bons résultats
de cette méthode expliquent d’ailleurs la coopération
systématique qui s’est instauré dans
la dernière décennie entre les chercheurs
des différentes disciplines. Ceci ne veut pas dire
cependant que le réductionnisme ait triomphé,
comme le prétendent ceux qui ignorent les subtilités
de ces sciences. Au contraire. Chaque domaine se heurte
en permanence à de nouvelles difficultés,
exigeant la recherche de nouvelles explications ou solutions,
que l’autre domaine se montre généralement
capable de fournir.
Il
est certain par contre que l’approfondissement de
la coopération avec les roboticiens oblige les sciences
du cerveau et les sciences humaines en général
à renoncer aux concepts et explications simplistes
jusqu’ici admises non seulement par les religions
mais par le sens commun. Ainsi, que ce soit en robotique
ou dans les neurosciences, le concept naïf d’un
espace, en machine ou dans le cortex, dédié
exclusivement aux processus de génération
de représentations conscientes, doit être abandonné.
Ces représentations et les décisions les provoquant
ou en découlant mettent en œuvre de vastes champs
de forces impliquant non seulement la machine ou le corps
entier mais aussi le milieu dans lequel cette machine ou
ce corps évolue.
Il
en résulte que les scientifiques de la conscience,
qu’elle soit artificielle ou naturelle, ne vont pas,
ainsi instruits, prendre le risque d'affirmer que les individus
ou les groupes sont conditionnés par des déterminismes
ne leur laissant aucune liberté de choix et donc
aucune responsabilité à l’égard
de ces choix. Aucun citoyen se voulant autonome et responsable
n’accepterait de telles conclusions. Ils vont par
contre étudier bien plus en détail que leurs
prédécesseurs les conditions dans lesquelles
les décisions petites et grandes sont prises, et
les modalités permettant d’assurer le plus
d’autonomie possible aux agents en charge de ces décisions.
Ces conditions s’appliqueront par contre à
tous, et non aux seuls humains. Le robot de demain devra
en effet se comporter d’une façon aussi éthique,
morale et finalement responsable que l’individu humain.
Une
deuxième crainte s’exprime, avec sans doute
des fondements plus solides que celles de la précédente.
Elle découle du fait, de plus en plus évident,
que les recherches scientifiques, dans les domaines avancés
dits aussi stratégiques, sont loin de viser l’avancement
désintéressé des connaissances. Si
avancement il y a, il n’est que le sous-produit de
pratiques par lesquelles des pouvoirs politiques et économiques
visent en priorité à mieux assurer leur emprise
sur les sociétés et sur le monde. Il serait
excessif d’affirmer que les sciences et les technologies
sont exclusivement financées et donc décidées
par des militaires ou de grandes entreprises capitalistes
travaillant pour le seul profit de leurs actionnaires. L’expérience
montre cependant que c’est le cas à, peut-être,
80 à 90% des projets de recherche et des développements
applicatifs. La robotique et l’IA ne sont pas les
seules à souffrir de ce handicap. On sait que toutes
les sciences émergentes, celles qui sont théoriquement
les plus riches de promesses relativement à la transformation
du monde : biotechnologies, nanotechnologies, infotechnologies,
sciences de l’énergie, des matériaux,
de l’espace et bien d‘autres, sont principalement
financées par des pouvoirs visant à s’approprier
leurs résultats. Robotique et IA n’échappent
pas à cette règle.
Mais
ceci n’est pas nouveau et a toujours trouvé
des limites. L’expérience a montré que
les recherches militaires ou à objectif de puissance,
telles que celles concernant l’atome, l’aérospatial
ou l’informatique, ont finalement bénéficié
avec plus ou moins de retard à tous. Ceci sous la
pression des citoyens et de nombreux scientifiques, même
lorsqu’ils étaient directement impliqués
dans ces recherches. Il n’y aurait pas de raison pour
que la robotique et IA échappent à cette règle,
si un contrôle démocratique sur leurs développements
était convenablement assuré. Les extrémistes
de la croissance zéro affirmeront que l’humanité
pourrait très bien pu se passer de toutes ces recherches.
Mais ils devraient alors admettre que les civilisations
idéales, pour eux, étaient celles qui dominaient
le monde avant l’ère industrielle et technoscientifique.
Ils ne voudraient certainement pas se trouver reportés,
même par la pensée, à de telles époques.
Dissiper
le malentendu
Revenons
au-delà de ces généralités sur
le préjugé selon lequel les progrès
de la conscience artificielle diminueraient le rôle
et le poids de la conscience humaine ? Là est le
malentendu qui mériterait pensons-nous d’être
dissipé. Les sociétés démocratiques
occidentales, depuis le siècle des Lumières
et contrairement à bien d’autres, valorisent
le rôle des individus comme facteurs de leur développement.
Pour employer un terme un peu technique, elles considèrent
les individus comme des agents proactifs et non comme des
composants passifs. Elles ne nient certes pas, en général,
que les individus comme les groupes soient déterminés
par de grands conditionnements que les sciences s’efforcent
d’étudier : géographiques, climatiques,
génétiques, économiques, politiques…
Mais elles mettent en valeur un processus que d’autres
sociétés ne veulent pas voir ou nient, et
que l‘on nomme parfois l’individuation. Chaque
individu, selon cette conception, dans une société
qui s’enrichi et se complexifie, peut acquérir
certaines marges de manœuvre à l’intérieur
des différents déterminismes globaux pesant
sur lui. En fonction de ses qualités propres, il
peut prendre des décisions qui ne sont pas nécessairement
celles des autres et qui, en principe, ne sont pas prévisibles
au plan collectif. La conviction d’être un Je
capable de décisions originales (autrement dit d’être
un « Je primo-décisionnaire »), même
si elle ne correspond pas exactement à la façon
dont chaque individu exprime ses choix personnels, traduit
l’importance que donnent les sociétés
démocratiques à la « proactivité
» des individus.
Ces
décisions individuelles ne résultent pas du
jeu d’un libre-arbitre hypothétique de nature
quasi divine. Il s’agit d’émergences
de complexité, si l’on peut dire, propres à
chaque individu et à chaque situation, résultant
de la conjugaison de facteurs causaux plus simples présents
dans l’organisme et dans son cerveau. Comme toutes
les émergences, elles ne sont ni prévisibles
ni réductibles aux éléments simples
les ayant provoquées. La décision une fois
« émergée », c’est-à-dire
prise, réorganise souvent autour d’elle l’activité
du sujet tout entier. A ce stade, elle est donc causale.
L’individuation
et l’organisation démocratique qui lui correspond
globalement sont menacées par les théocraties
et autocraties toujours en activité, mais elles semblent
pour le moment encore se répandre, par suite des
avantages compétitifs qu’elles confèrent.
Le fait que les individus composant les sociétés
démocratiques aient pu développer une relative
auto-détermination a longtemps fait la force des
sociétés occidentales. Leurs membres ont été
les premiers à faire preuve de curiosité scientifique,
face à de grandes questions dont les traditions anciennes,
notamment religieuses, prétendent détenir
seules les réponses. Aujourd’hui encore, les
capacités de résilience ou résistance
diversifiée aux agressions subies par les sociétés
démocratiques, dues à l’autonomie des
individus, semblent un atout important de survie pour l’avenir.
Faut-il
qualifier de liberté la pro-activité dont
jouissent les personnes ou « agents » dans le
cadre du processus d’individuation ainsi décrit
? Peut-on, de façon plus précise, nommer conscience
volontaire la capacité dont les agents individuels
disposent pour essayer de s’autodéterminer
? Sans doute pas si l’on donne au concept de liberté
un sens métaphysique qui l’apparenterait à
la liberté absolue dont selon les dogmes religieux
jouirait seule la divinité. Cependant, cette capacité
à l’auto-détermination, fut-elle relative
et intermittente, dont jouissent les individus dans une
société démocratique ou tendant à
la démocratie parait incontestable. Elle ne devrait
donc pas être niée sans précautions
par des hypothèses scientifiques affirmant que les
individus sont entièrement déterminés
par des chaînes de causalité massives ne leur
laissant aucune marge d’adaptation. Le grand enjeu
de la science moderne, selon nous, consiste précisément
à comprendre les mécanismes qui, au niveau
biologique, neurologique ou sociétal, permettent
à l’individu de bénéficier de
ce que l’on pourra faute de terme plus adapté
continuer à nommer une conscience volontaire. Ceci
n’est pas incompatible avec la recherche des déterminismes
systémiques qui, notamment au niveau statistique,
définissent les contenus de cette conscience et les
comportements globaux en résultant.
Observons
que la conscience, à supposer que cette faculté
puisse être individualisée, n’est pas
le monopole de l’espèce humaine dans sa forme
actuelle. Elle est apparue sous des formes plus rudimentaires
ou différentes au sein de bien d’autres systèmes
en évolution. On ne parlera pas à leur égard
de systèmes conscients mais de systèmes cognitifs,
capables d’acquérir, transmettre et modifier
des informations ou connaissances (cognitions) résultant
de leur co-adaptation à leur environnement. Nous
avons déjà consacré plusieurs articles
à ces questions, auxquels nous renvoyons le lecteur.
Il convient selon nous d’insister plus particulièrement
sur les facteurs épigénétiques qui
permettent de comprendre les grandes évolutions collectives
semblant affecter toutes les espèces vivantes, notamment
l’espèce humaine. Concernant l’humanité,
il s’agit notamment des relations se nouant entre
les facteurs génétiques et les techniques
instrumentales, utilisées de plus en plus massivement
depuis l’invention des premiers outils. Nous les avons
déjà évoquées sous le terme
un peu barbare de systèmes anthropotechniques.
Conclusion
En
conclusion, nous pensons que les considérations qui
précèdent justifient l’hypothèse
selon laquelle il ne devrait pas apparaître de contradictions
entre les développements actuels et futurs de la
conscience artificielle, et le rôle que par ailleurs
jouent dans l’évolution globale les individus
humains dotés d’un cerveau capable de générer
des représentations conscientes d'elles-mêmes.
Certes,
conscience artificielle et conscience « naturelle
» devraient s’enrichir en se modifiant réciproquement,
selon le processus dit de la co-évolution. Mais il
n’y a pas de raison de supposer que les technologies
de l’artificiel puissent définitivement se
substituer aux « technologies » biologiques
et neurologiques naturelles. De la même façon,
les technologies du transport ne remettent pas en cause
(quoiqu’on dise) la capacité des humains à
se mouvoir sur leurs jambes. Elles se bornent à diversifier
et enrichir les potentialités de la marche.
Selon
nous, dans le cadre d’un scénario que l’on
pourra qualifier d’optimiste, mais non d’irréaliste,
les deux formes de conscience, conscience naturelle et conscience
artificielle, devraient coopérer pour contribuer
à étendre le champ des processus conscients
au sein de l’univers.
Note
1) Sur la science et la raison, on lira
un débat en ligne très riche organisé
par le NewScientist de juillet 2008 http://www.newscientist.com/channel/opinion/dn14312
