 |
Les automates
intelligents robotique, vie artificielle, réalité virtuelle information, réflexion, discussion |
 |
| Jean-Paul Baquiast
Jean-Paul.Baquiast@wanadoo.fr Christophe Jacquemin christophe.jacquemin@admiroutes.asso.fr |
| |
Les automates
intelligents robotique, vie artificielle, réalité virtuelle information, réflexion, discussion |
|
| Jean-Paul Baquiast
Jean-Paul.Baquiast@wanadoo.fr Christophe Jacquemin christophe.jacquemin@admiroutes.asso.fr |
N° 8
Retour au sommaire
Le feuilleton
 |
Le paradigme de l'automate ou le dialogue d'Alain et Bernard par Jean-Paul Baquiast |
Chapitre 3 Evolution darwinienne et conscience de soi
Les machines à inventer autoréferrantes
NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.
Résumé du Chapitre 3
Nous avons vu au chapitre précédent que, dans la logique de l'évolution darwinienne, deux principaux mécanismes biologiques générateurs d'innovation s'étaient mis en place: les systèmes génétiques et les systèmes nerveux. Ces derniers servent de support à des représentations du monde qui, au sein de certaines espèces, et sous diverses formes symboliques, peuvent s'organiser en panoramas très larges, mémorisant le passé et permettant, à partir du présent, de simuler le futur. Au niveau des individus, et chez l'espèce humaine, nous pourrons appeler cela la conscience. Mais il ne faut pas oublier que ces constructions ne seraient pas possibles, sur le plan individuel, si elles n'avaient pas été forgées par les échanges sociaux, prenant notamment la forme des langages. Or évoquer les langages n'est que de peu d'intérêt si l'on n'étudie pas tout de suite la façon dont les symboles sous-jacents aux langages circulent d'individus à individus au travers des groupes sociaux. Chez l'homme, très tôt dans l'histoire, les premiers groupes se sont organisés, sous l'effet d'une compétition darwinienne permanente, en structures sociales de plus en plus lourdes. Ces dernières à leur tour ont généré des constructions symboliques de plus en plus ambitieuses, dont les techno-sciences sont des avatars récents. Evoquer les structures sociales et les techno-sciences conduit obligatoirement à évaluer le poids qu'elles font peser sur la formation et le fonctionnement des consciences individuelles. Ceci pose la question des Pouvoirs. Une question plus difficile concerne l'existence éventuelle de formes de conscience sociale distinctes, par leur nature et leurs contenus, des consciences individuelles.
En bonne méthode, il ne faudrait pas analyser séparément les langages, la conscience individuelle et les structures ou super-structures sociales. Il s'agit en effet d'un découpage un peu artificiel dans un mouvement d'émergence dont les composantes se conditionnent les unes les autres. On a dit fort justement qu'il ne peut y avoir de conscience, au moins sous forme étendue, sans langage, et pas de langage pertinent sans structure sociale lui attribuant des fonctionnalités et des contenus.
Ceci dit, il est impossible, pour la clarté, de ne pas procéder à ces découpages, dès lors que l'on ne perd jamais de vue les relations croisées entre éléments. Un autre facteur à ne pas perdre de vue est le fait que si ces attributs, qui paraissent distinguer définitivement l'humanité récente de l'animal, sont apparus et surtout se sont développés avec succès, c'est qu'ils offraient des avantages sélectifs pour la compétition darwinienne. Ces avantages dureront-ils toujours, certainement pas, et c'est précisément là une des questions qu'il faudra aborder.
Le cerveau de l'homme moderne s'est complexifié sous l'effet de causes encore mal élucidées, parmi lesquelles on place généralement en premier le développement des activités à base d'échanges symboliques entre individus. Les symboles ainsi échangés résultaient d'une mise en forme facilement "transmissible" des représentations universellement répandues dans le monde de la cognition animale. L'échange du contenu des représentations ne se fait chez l'animal que de façon rigide, dans le meilleur des cas par des proto-langages et la production de comportements susceptibles d'être imités. Les possibilités d'innovation par manipulation de symboles n'ont bénéficié en fait qu'aux hominiens, leur apportant en retour des capacités de modifier leur environnement sans proportion avec leurs modestes capacités physiques. Nous pourrons parler là, en restant fidèle à notre terminologie, d'une machine à inventer de 3e type, dont l'explosion récente, il n'y a guère que 500 ans, sous la forme des techno-sciences, est en train de bouleverser presque tous les niveaux du biotope.
Il est donc logique de commencer l'analyse de ce 3e type de machine à inventer par l'examen des symboles, servant eux-mêmes de matière première aux échanges langagiers. Traditionnellement, c'est la linguistique qui propose les outils d'analyse nécessaire. Mais la linguistique seule risque de nous entraîner dans des débats difficiles, sinon insolubles, concernant l'apparition du langage, la diversification des langues, les rapports de celles-ci avec les autres activités sociales. Peut-être vaudra-t-il mieux, sans rejeter la linguistique, élargir l'approche à ce que Richard Dawkins a proposé d'appeler des mèmes. Les mèmes pourront alors prendre la forme de comportements codifiés utilisés pour communiquer, d'outils échangés (un chopper ou un biface mériteront sûrement d'être considérés comme des mèmes) et enfin des mots, des phrases, et des "idées".
Il n'est pas mauvais en ce cas de se donner une description commune à l'ensemble des mèmes. Ceux-ci sont des ensembles mixtes comportant: - une base neuronale d'émission ou de réception identifiable à titre permanent ou passager chez les individus associés à l'échange - un support matériel échangé (outils, sons, gestes) - et enfin un réseau d'échange, de plus en plus diffus et technologique, représentant le milieu dans lequel le mème se propage. Les mèmes se présentent alors comme des entités vivantes, ou tout au moins animés d'une forme de vie "artificielle", aujourd'hui simulable très facilement sur ordinateur. On peut les dire égoïstes, en ce sens qu'ils naissent et se propagent en fonction des règles du hasard-sélection bien connues en matière biologique. Ils le font sans intégrer a priori dans leurs contraintes de développement la survie des différents individus ou groupes qui leurs servent de lieu de naissance, qui les hébergent et qui les propagent. Il ne faut évidemment pas, on le voit, réduire le concept de mème à l'équivalent d'"idées toutes faites"
La mémétique, ou science des mèmes, reste encore loin d'être une science, vu le caractère multiforme et fluctuant des objets de son étude. Un point important à préciser est que les mèmes s'enracinent dans les représentations qui constituent la base de la cognitique animale, et qui ne sont pas immédiatement communicables. En ce sens, les mèmes sont plus "primitifs" que les idées rationnelles résultant de nombreux traitements de type scientifique. La mémétique est rendue particulièrement complexe par le fait que les mèmes ne sont pas les seuls acteurs de la socialisation. Il faut aussi considérer les individus dans le cerveau desquels ils prennent naissance, et surtout les groupes sociaux qui sont à la fois produits de leur compétition permanente, et grands faiseurs de mèmes.
Après les mèmes et plus généralement le langage, il sera donc nécessaire d'examiner la conscience. Logiquement, il serait préférable de poser d'abord la question de la conscience collective, puisque la conscience individuelle s'est, semble-t-il, développée sur la base des échanges de mèmes au sein des premiers groupes sociaux. Mais on ne pourrait pas comprendre ce passage à la conscience collective puis individuelle, sans examiner les architectures neuronales de toute conscience, que l'on retrouve évidemment chez l'animal, générant certaines formes de pré-conscience.
Les représentations et les symboles qui correspondent aux mèmes et s'échangent par leur biais d'organismes à organismes désignent en général le monde extérieur. Mais il ne s'agit pas d'un hypothétique monde en soi. Il s'agit du monde tel qu'il est perçu par les organes sensoriels et effecteurs des organismes. En fait c'est l'organisme qui sert de médiateur à l'échange des représentations: celui qui décrit le monde et celui à qui s'adresse cette description.
De ce fait peuvent apparaître assez vite, parmi les symboles échangés, notamment sous forme de mèmes, des symboles désignant les organismes eux-mêmes, locuteurs et interlocuteurs. Ainsi peut se constituer la conscience de soi. La conscience de soi, que l'on appelle généralement aussi auto-référence, se présente comme un avantage compétitif majeur, en ce sens qu'elle donne à l'organisme conscient la possibilité d'agréger et mobiliser au profit de sa survie de nombreuses informations endogènes et exogènes qui restaient auparavant confinées dans les sous-systèmes de production.
La conscience de soi (que nous désignerons plus simplement dorénavant du terme de conscience*) est un produit de l'évolution comme les autres: évolution génétique qui a permis la mise en place des systèmes nerveux et des cerveaux, évolution des comportements et des contenus de langages. La conscience de l'homme moderne a intégré le fait qu'à la source de son fonctionnement se trouve une machine, le cerveau, qu'il est devenu prioritaire d'essayer d'analyser et de comprendre, voire de simuler sur ordinateur. Comme cette machine cérébrale est l'apanage du corps individuel, il en est résulté que c'est d'abord autour de la conscience et de la pensée individuelles, que se sont centrées les études relatives à la conscience en général. Ceci ne fut pas sans danger, conduisant à valoriser de façon irréaliste le mythe (ou mème) de l'individu pensant.
Aussi bien, terminerons-nous ce chapitre en examinant ce que l'on peut appeler la conscience collective, ou la façon dont les groupes deviennent auto-référents. On sait que, même si le cerveau est un organe individuel, il ne peut y avoir de conscience et de pensée individuelle en dehors des échanges avec les autres individus au sein des groupes sociaux. C'est vrai pour les animaux, mais l'est encore plus chez l'homme, puisque c'est par la coopération ou la compétition entre individus, à travers les langages, que se sont construites les vastes méga-machines techno-scientifiques modifiant profondément l'environnement terrestre.
Or les sociétés ou groupes acquièrent, comme les individus, des aptitudes plus ou moins étendues à la conscience de soi et à l'autoréférence. Il est nécessaire de les étudier au même titre que les faits de conscience individuels et leurs supports.
Rappelons que chacun de ces ordres de systèmes : langages et mèmes, conscience individuelle, conscience collective, se présente comme une machine à inventer dans le schéma darwinien: réplication, mutation, sélection. Par ailleurs, aucun d'eux n'est évidemment détachable de ses soubassements neuronaux, génétiques et biologiques (au sens des constituants bio-chimiques des cellules et de leurs composants). En aucun cas, notamment, l'étude de la conscience et de ses productions ne doit faire oublier que l'individu humain, comme le groupe humain, obéissent encore pour l'essentiel de leurs comportements hérités des espèces animales dont les grandes lignes sont fixées par l'héritage génétique.
Ajoutons que rien n'interdit de penser que les fonctions spécifiques et originales de l'autoréférence, ou de la conscience, ne puissent prochainement être implantées ou plutôt retrouvées dans des automates intelligents, en s'affranchissant à l'occasion de certaines contraintes héritées de l'évolution de l'espèce humaine, qui limitent la portée de la conscience. L'esprit humain, et les processus conscients, bénéficieront en retour des échanges avec ces artefacts. Le couplage aux cerveaux animaux et humains de machines disposant de formes originales de développement vers l'intelligence laisse entrevoir la perspective de systèmes mixtes ou cybiontes, dont rien a priori ne parait devoir limiter les capacités d'intelligence et de conscience réfléchie.
Sur le plan notamment de la connaissance dite rationnelle que les hommes peuvent se donner du monde, la conscience, individuelle ou collective, constitue encore, et constituera sans doute longtemps, sinon toujours, un vecteur indispensable. Approfondir voire améliorer et étendre son fonctionnement, en conjuguant les progrès réciproques de l'analyse des cerveaux et des processus cognitifs collectifs, d'une part, l'ajout de prothèses électroniques de plus en plus performantes, d'autre part, modifiera progressivement, non seulement notre conception de l'univers, mais la façon dont celui-ci évoluera, avec ou sans les hommes. La civilisation de demain se trouvera peut-être alors, selon la belle image de Gérald Edelman, en état de "dénouer le nœud du monde".
*Cette acception du mot conscience n'a évidemment rien à voir avec ce que la morale populaire désigne par ce même terme, conscience du bien et du mal (voir éléments de définition).
Chapitre 3, section 2 : La conscience individuelle
Bernard
Nous avons vu dans notre dernier entretien (représentations, mèmes, langages) comment des échanges structurés entre hominiens avaient pu donner naissance aux premières formes d'auto-référence, c'est-à-dire de conscience. Celles-ci ont très certainement d'abord bénéficié au groupe. C'est l'individu en groupe qui s'est identifié le premier à lui-même - ou plutôt c'est de l'existence du groupe auquel il appartenait que l'individu a pris conscience en premier. Mais très vite certains individus ont du prendre conscience d'eux-mêmes en tant qu'entités séparées du groupe, peut-être à l'occasion de séparation accidentelle d'avec celui-ci, ou de situation d'affrontement. La conscience de soi individuelle en a découlé.
Alain.
Aujourd'hui, lorsque l'on parle de conscience, c'est à celle-là que l'on fait référence...
Bernard
Oui, mais ce n'est pas nécessairement une bonne chose en termes de méthode, car l'on oublie ce faisant qu'il n'y a pas de conscience sans interaction avec l'autre, et plus généralement avec la culture collective. Ceci dit, comme la conscience individuelle est un produit du cerveau humain, et comme l'étude du cerveau et de son fonctionnement est devenue une priorité des neurosciences modernes, il n'est pas anormal de rattacher l'étude de la conscience à l'étude du cerveau. De même, lorsque l'on s'efforcera de réaliser des prototypes de conscience artificielle, la tentation sera grande de les implanter sur des machines, plutôt que sur des réseaux.
Alain
Rien ne nous empêche de conjuguer les deux approches. Nous allons d'abord discuter de la conscience individuelle...
Bernard
En nous heurtant d'ailleurs à certaines impasses qui nous obligeront à revenir sur la conscience de groupe. C'est tout à fait la démarche que je te propose.
Alain
Pour bien faire, il faudrait faire des allers et retours permanents entre individuel et collectif...C'est bien ainsi que les choses se passent dans les sociétés humaines. Mais pour la commodité, adoptons en effet une présentation en deux parties: conscience individuelle et conscience collective.
Bernard
Très bien. Que peut-on dire sur la conscience, dans l'optique qui est la nôtre, et qui consiste à refuser le dualisme pur et simple (la conscience est une manifestation de l'âme, et n'est pas de ce fait susceptible d'analyse scientifique) ou l'introspection philosophique, qui conduit à disserter sur la conscience sans se poser un instant la question de ses bases neurologiques?
Alain
Nous avons évoqué déjà les travaux des neurologues modernes pour essayer d'identifier dans le système nerveux central les zones correspondantes aux grandes fonctions présentes chez l'adulte en bonne santé normalement socialisé. C'est sans doute de là qu'il faut partir.
Bernard
Tu as raison. Aujourd'hui l'imagerie cérébrale fonctionnelle offre des informations impossibles à obtenir avant elle. Auparavant, l'étude de l'éventuelle localisation des fonctions cérébrales ne pouvait se faire, au moins chez l'homme, qu'à l'occasion des accidents traumatiques entraînant atteinte du crâne et de son contenu, ou de diverses maladies, tumeurs, embolies, diminuant l'intégrité du cerveau.
Alain
Il ne faut pas oublier non plus, avant l'imagerie, les études du neurone, faites au microscope ou avec des électrodes, ayant mis en évidence la structure microscopique du tissu nerveux, et la façon dont se transmet l'influx. Ces études ont ouvert si je ne me trompe le domaine immense de la connectique entre neurones, des médiateurs chimiques et des phénomènes électriques révélant l'état du neurone.
Bernard
Tu as tout à fait raison. Nous reviendrons d'ailleurs sur ces problèmes d'électricité et d'ondes cérébrales en fin de discussion. Les premières expériences n'ont pas porté sur la partie supposée noble du cerveau, le cortex associatif, mais sur les circuits les plus simples, arcs réflexes reliant l'épine dorsale aux muscles, muscles striés des membres ou muscles lisses des organes internes. L'on s'est ensuite intéressé aux zones, particulièrement développées parce qu'elles étaient vitales dans la lutte pour l'évolution, intéressant le traitement par le cerveau, d'ailleurs en plusieurs temps et en plusieurs lieux associés, des informations provenant des organes des sens, odorat, vision, audition, main ou pied... Certaines localisations sont apparues, souvent d'ailleurs variables selon les individus et le moment de l'observation. Mais les non-localisation par redondance a également été observée très tôt, chez des malades atteints de destructions locales, et capables de récupérations plus ou moins dégradées.
Analyser et reproduire la pensée élaborée, puis la conscience est une toute autre affaire. Les ouvrage récent d'Antonio Damasio* et de Gerald Edelman* en fournissent d'excellents exemples. L'imagerie médicale ne fournit encore que des images très grossières, au regard de la finesse et de la complexité des réseaux de neurones. Quant à l'expérimentation sur le cerveau vivant, elle est éthiquement impossible, sauf éventuellement chez l'animal.
Alain
Il est bien vrai que les outils dont on dispose pour explorer le cerveau, notamment ses couches profondes, restent encore extrêmement sommaires. Les neurologues sont un peu comme des océanographes qui ne pourraient qu'analyser les premiers mètres au dessous du niveau de la mer.
Bernard
De nouvelles techniques d'identification des échanges inter-neuronaux plus sensibles et non-invasives (n'exigeant pas la pose d'électrodes) vont sans doute apparaître, mais nous n'en sommes pas là. Ceci dit, il ne faut pas s'imaginer que le modèle animal n'est pas suffisant pour commencer à comprendre ce qui se passe dans un cerveau humain. Nous verrons que des travaux d'électroencéphalographie utilisant des réseaux de micro-électrodes implantées dans les zones sensorielles de lapins ont donné des résultats permettant à des gens comme Walter Freeman* de faire des hypothèses très intéressantes sur ...tu le croiras ou non...le libre-arbitre chez l'homme. Il ne faut pas oublier non plus ce qui est notre cheval de bataille intellectuel, le modèle automate. Les artefacts logiciels ou robotiques auto-adaptatifs ouvrent des perspectives de plus en plus fécondes. Un livre récent comme celui d'Alain Cardon* repose tout entier sur le pari qu'il serait désormais possible (si l'on disposait de quelques crédits) de faire une conscience artificielle tout à fait présentable...capable, sur certains points au moins, de passer le fameux test de Turing...
Alain
En fait, le cerveau humain n'est plus pour l'observateur cette boîte noire dans laquelle il s'imaginait ne pas pouvoir entrer, tout au moins quand il s'agissait d'analyser le moi-conscient.
Bernard
Non. Les progrès sont importants voire foudroyants, depuis quelques années. Ils sautent aux yeux lorsque l'on compare les travaux de Jean-Pierre Changeux*, datant des années 1970/80, et ceux des neurologues et physiologues d'aujourd'hui. Les approches sont aujourd'hui beaucoup plus globales. Elles intègrent par exemple des entrées nouvelles comme les émotions, et plus généralement l'interface global entre le cerveau et le reste du corps. Elles prennent aussi en compte ce que nous évoquions précédemment, le langage, la relation avec la culture sociale. Au niveau épigénétique, le rôle des gènes en interaction avec le milieu, est de mieux en mieux étudié, aussi bien en ce qui concerne la formation et la spécification du cerveau, que le fonctionnement des parties et de l'ensemble. L'on doit enfin à des philosophes à l'américaine, comme Daniel Dennett*, qui sont de véritables scientifiques, plutôt que des littéraires, des approches globales très intéressantes. Bref, la conscience est devenue un sujet d'étude scientifique à part entière.
Alain
Peut-on dire que la conscience est désormais "expliquée", comme l'affirmait un peu présomptueusement en 1991 ton cher Dennet?
Bernard
A mon avis, non. Il est certain que l'on commence à mieux comprendre quelles sont les conditions propices à l'émergence de la conscience dans un organisme vivant, ou dans un automate simulant ce dernier. Mais je pense que l'on se représente encore mal ce qui se passe dans la pointe de la pointe de la conscience, ce dont nous croyons faire l'expérience quotidienne: le libre-arbitre, la prise de décision dite volontaire. Comme une décision ne peut pas être isolée du processus de production dont elle est le résultat, il faut bien admettre qu'il y a des formes de causalité circulaire ou chaotique qui interviennent, dont nous n'avons pas encore le modèle. Mais cela va sans doute venir, et plus vite peut-être que ne le croient les scientifiques eux-mêmes.
Alain
Que pouvons-nous dire utilement sur la conscience, pour ce qui nous concerne. Je crois qu'il faut rester dans la logique de notre démarche: considérer que le cerveau conscient est une machine à inventer particulièrement puissante, apparue à un certain moment de l'évolution chez une espèce ayant bénéficié de circonstances favorables, et ayant donné à cette espèce des avantages sélectifs tels que ce dispositif n'a cessé de se renforcer, par co-évolution génétique et culturelle.
Bernard
Tu as raison. Pour rester concret, je te propose de voir ce que nous pourrions tirer des travaux de neurologues modernes tels que Damasio, Edelman ou Freeman, si nous voulions nous atteler à la réalisation d'un automate conscient.
En fait, peu de neurologues envisagent encore la simulation du cerveau sur ordinateur. Un auteur comme Damasio*, par exemple, prend bien garde d'indiquer que ses travaux ne sont pas susceptibles de donner lieu à des applications en matière d'automatique, mais c'est l'impression contraire que j'en ai personnellement. La description qu'il donne des différentes zones et fonctions cérébrales aboutissant à la naissance de la conscience (chapitre 6, p. 179, notamment, de l'édition française) esquisse le programme de réalisation d'un automate conscient. D'importantes difficultés de type informatique (supports, connectique, logiciels) seront à résoudre, mais le principe de la démarche paraît assez simple.
A partir d'un automate-machine aussi complexe et évolué que possible, dans l'état de l'art du moment, l'on commencera à réaliser un "proto-soi". Le proto-soi, dit Damasio, "est une collection reliée et temporairement cohérente de configurations neuronales qui représentent l'état de l'organisme à de multiples niveaux du cerveau. Nous ne sommes pas conscients du proto-soi ". Ceci, traduit grossièrement, veut dire qu'il faudra prévoir, dans les différentes composantes de l'ordinateur central de l'automate, correspondant à ses différentes fonctions sensori-motrices et de traitement de données abstraites, des remontées d'informations donnant l'état instantané des différents sous-systèmes, et reliées entre elles de façon à produire des comptes-rendus synthétiques de situation instantanées.
Alain
En t'écoutant, je me dis que cela doit déjà exister dans des systèmes complexes au fonctionnement sensible, comme les centrales nucléaires. Mais l'on compte sur le cerveau de l'ingénieur de veille pour réaliser le travail final d'intégration en temps réel, plutôt que sur une fonction automatique qui aurait coûté beaucoup plus cher à développer, et dont la fiabilité n'aurait pas été garantie...
Bernard
Inutile de développer la suite, mais la démarche sera la même lorsqu'il s'agira de simuler (ou reproduire) le soi-central et le soi autobiographique identifiés par Damasio. Ainsi, dit-il, "le soi-central est inhérent au compte-rendu non verbal de second ordre qui se produit chaque fois qu'un objet modifie le proto-soi. Nous sommes conscients du proto-soi." Il nous suffira, pour produire le même résultat, d'organiser des entrées d'informations susceptibles de modifier suffisamment profondément le proto-soi de notre prototype.
En dehors des problèmes informatiques de plus en plus complexes à résoudre, il faudra injecter dans notre automate conscient expérimental des quantités phénomènales de données lui fournissant une image du monde suffisamment riche...
Alain
Ou lui apprendre à acquérir de façon spontanée, grâce à des processus adaptatifs en environnement compétitif...
Bernard
Bien sûr...je vois que tu as bien saisi la mécanique de la robotique moderne...bref il faudra que notre automate acquière des quantités de données simulant les sollicitations permanentes, conscientes et inconscientes, que subit un cerveau humain. Il faudra qu'il en acquière d'autres, organisées en scénarios, pour lui donner une histoire et une personnalité susceptible de lui servir de références dans la construction et la manipulation de son soi autobiographique. Si l'on veut en effet que l'automate soit suffisamment conscient de lui-même, pour se représenter dans le passé et pour se projeter dans l'avenir, afin de pouvoir donner un sens aux nouvelles entrées qu'il reçoit, il faut l'aider à se construire une personnalité. Même si celle-ci reste simple, cela fera beaucoup d'octets, sous forme de concepts et images.
Alain
On pourrait imaginer que l'automate n'ait pas à rapatrier toutes ces données dans sa mémoire permanente, mais puisse faire appel à un réseau (tel qu'Internet) où il trouverait le moment venu l'information adéquate.
Bernard
Oui. Tu évoques en fait un problème très important, auquel nous avons fait allusion: la conscience n'est pas seulement un processus individuel, c'est aussi un processus réparti.
Alain
Comment Edelman* voit-il la conscience et la possibilité de la simuler sur un système automatique intelligent?
Bernard
Edelman est plus positif que Damasio. Il n'hésite pas à dire que des artefacts simulant la conscience verront le jour dans les prochaines années, et seront très utiles pour préciser les hypothèses actuelles.
Pour lui, la conscience primaire résulte d'un ensemble de processus qui ne peuvent s'établir que sur des architectures cérébrales caractérisées par la complexité, elle-même définie comme "une synthèse optimale de spécialisation fonctionnelle et d'intégration fonctionnelle au sein d'un système", c'est-à-dire comportant des milliards de neurones, des millions de cartes fonctionnelles et de groupes de neurones entrant, sortant et réentrant... des millions aussi, selon l'expérience du sujet, de connexions entre neurones acquises par cette expérience et "mémorisées" pour être éventuellement réactivées. Le tout est le produit de la sélection - sélection génétique en ce qui concerne les grandes structures, aires, cartes, groupes de neurones de liaison - sélection au cours de la vie du sujet pour les connexions spécifiques à l'individu.
L'hypothèse de la complexité fonctionnelle n'est pas nouvelle, encore que dans cette présentation elle devienne une condition sine qua non de l'établissement d'un processus de conscience. De l'uniformité ou de la faible diversité fonctionnelle ne peut émerger en effet aucune conscience. Le point sur lequel il convient d'insister par contre est l'intégration fonctionnelle entre sites différents, permise par des liaisons massivement ré-entrantes, redondantes et dégénérées (au sens mathématique) assurées par des faisceaux ou groupes de neurones des aires du cortex associatif (thalamo-cortical), que complètent d'autres voies projetées vers différentes autres parties du système sensori-moteur. Ces faisceaux ou groupes de neurones peuvent mettre en relation en temps quasi réel (dizaines ou centaines de millisecondes) toutes les parties du cerveau accessibles par elles, et de ce fait susceptibles de contribuer à l'élaboration des processus conscients. Plus il y a de sites différents, et plus ils sont reliés entre eux par des ponts ré-entrants et redondants à très court délai de réponse, plus la conscience a de probabilités d'émerger.
Mais le problème de l'apparition de la conscience primaire ne s'explique pas seulement par l'existence de ces premiers dispositifs, et notamment par celle de groupes de neurones de liaison. La conscience, primaire ou même évoluée, observée de l'extérieur ou de l'intérieur du sujet, apparaît comme un processus bien défini, dont il faut expliquer la genèse. Elle est unitaire, cohérente et sélective (une seule chose à la fois dans le même instant), de faible débit mais puissamment informative (capable en quelques fractions de secondes de faire appel et d'évoquer l'un des plusieurs milliards d'états pré-conscients, ou plutôt disponibles en mémoire accessible, dont dispose le système nerveux). Elle est aussi continue (elle ne s'arrête jamais, même dans certains états de sommeil), en perpétuelle réactivité et changement suite aux messages exogènes et endogènes reçus par le sujet. Finalement aussi elle est "privative" (propre au sujet conscient, qui ne peut la communiquer sous aucune forme à un autre sujet). La combinaison de ces caractères fait de la conscience un processus à la fois limité, fragile, mais extrêmement puissant. Malgré ses limitations, elle a pu assurer jusqu'à ce jour le succès compétitif des espèces animales qui en ont été dotées par l'évolution sélective.
Or ces caractères, selon Edelman, résultent de l'existence d'un noyau dynamique de réseaux de neurones, dans le système thalamo-cortical, qui animent et informent par ré-entrance, en permanence, un certain nombre de sites constituant le cœur momentané de la conscience primaire.
Alain
Peut-être pourrait-on comparer ce noyau dynamique au faisceau d'une lampe de poche, qui éclaire successivement et en se déplaçant sans cesse un certain nombre d'objets différents d'une pièce, et réussit à donner de cette pièce une image utilisable pour celui qui veut s'y mouvoir?
Bernard
Pourquoi pas en effet? Ceci dit, le noyau dynamique ne se limiterait pas à l'interconnexion des zones relevant de la mémoire immédiatement accessible, mais il pourrait projeter des fibres, via des ports de communication entrants et sortants, vers les immenses portions du système nerveux relevant des cartographies globales sensori-motrices spécialisées, ou des routines motrices et cognitives relevant de ce que l'on appelle l'inconscient. Par apprentissage, le champ de l'inconscient peut se trouver réduit au profit du champ des circuits mobilisables épisodiquement ou durablement par le noyau dynamique générateur des faîtes de conscience.
Edelman rejoint Damasio en montrant l'émergence, sous la pression sélective, de consciences de niveaux supérieurs, introduisant des proto-concepts dérivant de la catégorisation perceptive définissant tout système sensoriel et moteur même le plus primitif . Ceci pose le problème du statut de l'information dans le monde. L'organisme ne peut accéder à d'éventuelles réalités qui lui sont externes et qui caractérisent le monde extérieur, à partir duquel il construirait des modèles ou descriptions fidèles. L'organisme ne peut que conserver, par sa propre organisation, la mémoire des occurrences statistiques selon lesquelles ses organes se heurtent à un réel inconnaissable en soi, mais seulement perceptible par son expérience sensorielle et motrice. A partir de catégorisations perceptives mémorisées et régulièrement renouvelées, l'on peut imaginer que le cerveau lui-même élaborera des constantes ou concepts qu'il utilisera dans le cadre de la conscience comme des entrées endogènes complétant les entrées exogènes, et servant à reconnaître ces dernières. Ce seront d'abord des gestes ou phrases stéréotypées, objets d'échanges entre individus au sein des groupes.
Parmi eux pourra s'introduire le concept de soi, autour duquel se réorganisera très vite l'ensemble des autres concepts. La représentation du soi dans son environnement est évidemment la pierre de touche de la conscience évoluée, celle à partir de laquelle, si l'on peut dire, s'est construite toute la civilisation humaine. Mais les origines du soi (ou du "nous", c'est-à-dire du groupe intégrant le soi) ne semble pas très différentes de celles des premiers proto-concepts, précédemment évoqués. La réentrance du concept de soi dans de nombreux registres associés par le noyau dynamique confortera évidement très vite la conscience de soi ou celle du groupe, en l'enrichissant des innombrables associations informatives déjà accessibles par le noyau dynamique, et en "repolarisant" ces associations. L'animal ainsi enrichi passera très vite alors de la "mémoire du présent" (conscience primitive) à celle du passé et à celle du futur. Le statut du langage préalable ou consécutif à ces constructions fait encore l'objet de discussions. L'on considère généralement que le langage, moyen d'échange formalisé entre deux individus, suppose la conscience chez ceux-ci, et notamment la conscience de soi. A plus forte raison lorsqu'il s'agira de langages relevant de la science ou connaissance scientifique. Mais des définitions plus réductrices des langages peuvent être données.
L'intéressant de tous ces travaux, qui devront évidemment être affinés et mieux démontrés dans un proche avenir, est que rien n'interdit - obstacles technologiques mis à part- de réaliser des artefacts électroniques ou enrichis de bio-puces, présentant l'amorce des conditions signalées comme nécessaires à l'apparition de la conscience: extrême complexité, extrême variabilité, forte réentrance et redondance, etc. Ou bien ensuite il sera possible d'injecter sur de telles plates-formes des flux d'échanges de type voisin de ceux prêtés au noyau dynamique décrit ci-dessus ou bien, mieux encore, l'on mettra ces plates-formes en situation de survie compétitive, pour observer comment elles réagiraient à la pression de sélection, suite à des flux d'événements sélectifs envoyés par l'homme ou produits de façon aléatoire. L'implémentation de proto-conscience (ou l'élaboration d'automates proto-conscients) pourrait donc se faire conjointement par voie descendante (l'homme introduisant progressivement les fonctions et les contenus nécessaires à chaque niveau) et par voie ascendante (l'automate, pour survivre, se dotant des réseaux et contenus adéquats par auto-complexification spontanée, dans le cadre du développement de ce que l'on schématise par le terme de "réseaux neuromimétiques" dotés d'une plasticité et d'une complexité un peu comparables à celle du cerveau.
Alain
Ceci dit, à supposer que notre automate acquière des rudiments de conscience analogue à la nôtre, comment le saura-t-on ? Nous ne pourrons pas plus nous mettre à sa place que d'ailleurs je ne peux pas me mettre à la tienne. Je me borne à supposer que tu as une conscience qui ressemble à la mienne. Devrai-je faire de même à l'égard du futur automate conscient ?
Bernard
Oui, mais ce ne sera pas un véritable problème. L'on rencontre d'ailleurs cette situation quand on traite de la conscience ou de la pré-conscience chez l'animal. Si l'on postule a priori que l'animal ne peut pas être conscient, l'on ne verra jamais en lui la moindre trace de cette fonction. Si l'on fait l'hypothèse contraire, l'on découvre que l'on peut échanger avec lui, sur le mode de la communication pré-consciente ou non verbale tout au moins (émotions), de nombreux messages qui très vite, nous amènent à nous imaginer, à tort ou plutôt à raison, que nous nous adressons à un être relativement et passagèrement conscient.
Alain
Nous n'en avons pas fini avec la conscience, dans notre discussion d'aujourd'hui. Tu parlais des ouvertures apportées par l'électroencéphalographie, en citant Walter Freeman...
Bernard
Oui. Mais il n'y a pas que lui. Comme tu l'imagines, le mystère de la conscience ne cesse d'agiter les hommes de science, sans parler des philosophes. De nombreuses hypothèses jugées aujourd'hui irrecevables ont été émises, relativement aux relations entre l'esprit et le cerveau. Des gens très sérieux comme Penrose* ou Eccles* ont essayé de sauver le spiritualisme en évoquant d'hypothétiques phénomènes quantiques susceptibles de polariser les neurones. Il y a eu aussi la théorie holographique du cerveau de Karl Pribram*.
Karl Pribram, neurologue d'origine austro-tchèque travaillant aux Etats-Unis, s'est fait connaître par une hypothèse, non reconnue, si j'ai bien compris, par les neurosciences traditionnelles, selon laquelle la pensée fonctionnerait comme un hologramme. Cette idée a été avancée pour répondre à la question de savoir pourquoi, même en cas de destruction plus ou moins importante d'aires cérébrales corticales, certains sujets peuvent continuer à fonctionner intellectuellement sans troubles graves. Selon Pribram, le cerveau est le siège de transformations holonomiques qui distribuent l'information (notamment sensorielle) dans diverses régions et qui la regroupent en cas de remémorisation. Cette hypothèse va à l'encontre de la conception classique selon laquelle l'information est mémorisée dans des groupes de neurones bien définis. Pour lui, la décomposition des signaux en "transformées de Fourier" permettrait de mémoriser les entrées sensorielles dans le domaine des fréquences des neurones excités. Ainsi, selon ce scientifique, les dendrites produiraient une transformation "spectrale" des "épisodes de la perception". Cette information spectrale transformée est mémorisée sur un très grand nombre de neurones distribués. Quand l'épisode générateur est remémoré, une transformation inverse se produit, sous forme d'une production dendritique inverse. Ce processus donnerait naissance à la conscience de veille.
Alain
Arrête, s'il te plait. Je décroche. Freeman est-il du même acabit?
Bernard
J'en parle évidemment en profane, mais je trouve les thèses qu'il développe sur le tard de sa vie professionnelle (à la fin de quarante ans de recherches bien remplies) comme beaucoup plus séduisantes. Freeman aborde la question du cerveau par le plus difficile, c'est-à-dire par le problème de la conscience, des qualia et de la décision dite volontaire. Il refuse d'emblée ce qu'il considère comme des faux-fuyants constituant à évacuer la question: faire appel à un déterminisme génétique ou culturel derrière lequel disparaît la volonté individuelle, renoncer purement et simplement à expliquer le caractère subjectif et incommunicable de l'expérience personnelle, ou même prétendre que la conscience est un épiphénomène ou une illusion. Il reconnaît au contraire pleinement la capacité de l'individu à l'autodétermination, mais il veut en trouver l'explication dans le cœur du fonctionnement du neurone et des assemblées plus ou moins larges de neurones, décrits par leur activité électrique.
Ce faisant, il va plus loin que les neurologues et philosophes dont nous venons de parler (Edelman, Damasio, Dennet). Ceux-ci, nous l'avions vu, proposent des modèles séduisants du cerveau conscient, mais qui nous laissent un peu sur notre faim. Contrairement à ce qu'affirmait Dennett, la conscience est loin de s'en trouver "expliquée". Tout au plus ces modèles permettent-ils d'envisager la construction d'artefacts simulant d'assez loin des comportements intelligents et conscients, sans que le cœur du système ait paru décrypté.
Freeman est beaucoup plus ambitieux, et plus révolutionnaire. On peut seulement se demander pourquoi ses thèses sont aussi peu connues du grand public, sinon de ses confrères. Il affirme que ce qui était encore impossible il y a dix ans le devient, par la conjugaison d'une imagerie cérébrale au pouvoir de définition de plus en plus grand, et par l'analyse du fonctionnement électrique des neurones et assemblées de neurones. Il recourt sur ce dernier point à des techniques s'inspirant de la traditionnelle électroencéphalographie, mais capables, elles-aussi, de descendre aussi bien au niveau du neurone que de parties plus ou moins étendues du tissu cérébral. L'aspect le plus innovant de sa démarche repose moins dans l'observation de l'activité électrique des cellules que dans l'appel aux mathématiques de la dynamique non-linéaire pour interpréter les états électriques observés.
Alain
Je vois. Nous allons faire appel aux pouvoirs explicatifs du chaos, nouvelle vertu dormitive...
Bernard
Il est vrai que ceux qui comme nous avaient déjà du mal à se retrouver dans les mathématiques classiques considérons avec sans doute des espoirs excessifs, dus à l'ignorance, les possibilités explicatives de l'auto-organisation et de l'émergence dans les systèmes complexes, donnant naissance en permanence à de nouveaux patterns. Ces patterns sont identifiés comme la manifestation du chaos, ressemblant à du bruit, mais cachant un ordre sous-jacent et la capacité de changements rapides et étendus, comme ceux de la pensée humaine. Ce sont là pourtant je crois des horizons à prendre tout à fait au sérieux, même lorsque l'on n'est pas mathématicien. Il n'avait jamais été possible avant l'apparition de la dynamique non linéaire de distinguer entre le bruit et le chaos. Dorénavant, d'innombrables phénomènes relèvent de cette nouvelle mathématique, depuis la dynamique des fluides (météorologie, hydrologie), l'analyse des flux circulatoires, l'économie et la finance, la sociologie et la politique. Pourquoi pas le fonctionnement de la pensée?
Alain
Le problème qui se pose est qu'il ne suffit pas de dire "chaos, chaos" pour expliquer la conscience et surtout la décision volontaire. On peut intuitivement sentir une analogie prometteuse entre ce qui se passe au sein de populations de milliards de neurones et au sein de l'atmosphère, par exemple. Il ne paraît pas absurde de comparer la naissance et la dérive d'une pensée au sein du cerveau, se manifestant par des modifications de l'état électrique des neurones impliqués, avec la création et la dérive d'une dépression sur le front polaire en météorologie. Reste quand même d'une part à justifier expérimentalement que de telles comparaisons ont un sens et, d'autre part, à poser de nouveau la question du libre-arbitre.
Bernard
Le Pr Freeman veut encourager, nous dit-il, les gens à se convaincre qu'ils ont la possibilité de faire des choix. Pour cela, il veut renouveler la définition de la causalité volontaire. Loin que celle-ci soit réservée aux humains, il la fonde dans le concept d'action orientée vers un but (goal-oriented action) appelée aussi "intentionnalité". Ce terme employé par Thomas d'Aquin dès 1272, est très à la mode aujourd'hui. Il décrit l'engagement total d'un acteur, corps et cerveau, vers une action correspondant à un but choisi par cet acteur. Il se distingue du motif et du désir qui sont des sous-produits de cette intention ou intentionnalité.
Dans la mesure où le cerveau s'implique dans le processus d'intentionnalité, des significations se créent, exprimées sous forme de symboles, gestes et mots. Elles résultent du fait que le cerveau crée des comportements intentionnels, puis se modifie en fonction des conséquences sur le monde, perçues par les sens, de ces comportements (processus appelé "assimilation" par Aquin et Piaget): le soi arrive à comprendre le monde en s'adaptant à lui. Pour l'homme, animal social et verbalisé, c'est plus particulièrement l'impact de l'action de l'individu sur les autres, qui crée le soi, en lui bâtissant progressivement une expérience et une histoire. Le contenu des significations est très largement social (résultant du contact avec la culture), mais les mécanismes doivent en être étudiés en terme de dynamique cérébrale.
Les significations, pour Freeman, sont des structures vivantes qui croissent et changent, tout en persévérant. Elles s'expliquent par des phénomènes relevant de la dynamique non-linéaire. Pour mieux les situer, et préciser comment du chaos peut venir l'autodétermination, il nous invite à comprendre l'organisation hiérarchique des neurones en deux niveaux de taille et d'échelle. Il présente les concepts d'état du neurone individuel et d'une population de neurones, sa variable d'état et son espace d'état, la stabilité des états et les transitions d'état entre états à l'occasion d'une déstabilisation.
Il applique ensuite ces concepts de la dynamique aux premiers effets de la perception de l'environnement par les sens. Le cerveau répond au changement du monde en déstabilisant ses cortex sensoriels primaires. Ainsi se construisent des patterns d'activité neurale constituant une nouvelle signification. Ces patterns, en atteignant d'autres zones du cerveau sont "digérés" de façon spécifique à chaque personne, en fonction du contenu préexistant propre à cette personne. A un niveau hiérarchique supérieur, les différents patterns émis par les cortex sensoriels sont fusionnés dans les structures profondes du cerveau, en donnant naissance à de nouveaux patterns d'activité. Aucune structure n'assure de coordination spécifique. Celle-ci naît, comme Gérald Edelman l'a fait remarquer, de l'existence de voies massivement réentrantes permettant à chaque sous-ensemble d'informer les autres des produits de son activité, et de tenir compte de l'activité des autres sous-ensembles.
A un niveau encore supérieur, Freeman fait intervenir l'attention ou état de veille (awareness) en relation avec la formation et la conservation des significations. L'attention n'est pas indispensable à la mise en oeuvre de comportements intentionnels, mais elle intervient quand le cerveau a besoin de penser ses intentions et de se les représenter en mots - ceci notamment à l'occasion de la communication avec les autres par les langages. Ceci nous conduit au cœur de ce que l'on appelle la conscience.
Je te propose ici une traduction de ce qu'en dit Freeman, parce que c'est je crois important: " Nous approcherons la biologie de la conscience en examinant les concepts de causalité linéaire et circulaire. La façon dont nous nous représentons les causes peut être expliquée en termes neurobiologiques comme dérivant de celle dont nous sommes conscients de notre expérience et de notre intentionnalité. Ceci montre les limites de la causalité linéaire, et nous aide à comprendre la causalité circulaire, qui est une espèce d'abri à mi-chemin entre la confortable certitude de la causalité et l'effrayant désert, ne laissant pas de place à l'humain, découlant de processus sans cause. Ma conclusion s'accorde avec une hypothèse proposée par le psychologue William James en 1878, selon laquelle la conscience est interactive avec les processus cérébraux, en n'étant ni un épiphénomène ni une cause. La conscience ne contrôle pas les actions comportementales, au moins directement. En terme de dynamique, c'est un opérateur, parce qu'elle module les dynamiques cérébrales dont ont découlé les actions passées. Résidant nulle part et partout, elle reforme les contenus qui sont fournis par les différentes parties du cerveau. C'est la croissance considérable des lobes frontaux et temporaux chez l'homme qui a permis ceci.".
Alain
Est-ce que Freeman envisage la création de consciences artificielles réutilisant ces éléments de dynamique cérébrale?
Bernard
Il y fait allusion, mais ce n'est pas son point fort. En ce qui concerne la définition et la création d'une conscience arficielle, je te signale par contre un ouvrage extraordinaire, dont nous reparlerons dans un entretien ultérieur, écrit en 1999 par un professeur français, Alain Cardon: Conscience artificielle et systèmes adaptatifs *
Alain
Revenons au problème plus général de l'émergence d'agents conscients, qu'ils soient biologiques ou artificiels. Nous les avons situés dans la perspective de ce que nous avions appelé des machines à inventer, en postulant que les agents conscients représentent une forme plus efficace d'invention que les solutions plus anciennes, et d'ailleurs toujours en activité, qu'offrent l'évolution biologique et neurologique, celle-ci sous ses formes restant inconscientes. Mais ce postulat est-il bien exact? La conscience fournit-elle un avantage adaptatif?
Bernard
Il faut toujours relativiser l'appréciation des avantages adaptatifs. Les virus ou les blattes, nous l'avons déjà dit, disposent, même encore de nos jours d'avantages adaptatifs indiscutables. Ceci dit, il est également indiscutable, me semble-t-il, qu'un agent capable de se représenter lui-même et de se situer, pour le passé et pour le futur, dans un environnement qu'il a traduit en informations utilisables pour lui, met beaucoup de chances de son côté, en termes de survie. Dire le contraire voudrait dire que l'on nie l'existence de la science et de la technique, dont au moins une grande partie résulte de processus conscients et volontaires.
Alain
N'avons nous pas déjà observé qu'une partie des activités dites scientifiques obéit à des déterminismes sociaux inconscients?
Bernard
Sans doute, mais ton observation signifie qu'avant de nous poser la question de la validité, notamment pour la survie, de la conscience individuelle, nous devons revenir au point que nous évoquions au début de cette conversation: les relations entre la conscience individuelle et la conscience collective. Ce sera sous cet angle aussi qu'il faudra se poser la question d'une conscience artificielle.
Auteurs cités (signalés par * dans le texte)
Alain Cardon Conscience artificielle et systèmes adaptatifs. Eyrolles, 1999
Jean-Pierre Changeux, L'homme neuronal, Fayard 1983
Antonio Damasio, Le sentiment même de soi, Editions Odile Jacob, 1999
Richard Dawkins, Le gène égoïste, Armand Colin ,1990
Daniel C. Dennett, La conscience expliquée, Editions Odile Jacob, 1991-1993
Daniel C.Dennett, Darwin est-il dangereux? Editions Odile Jacob, 1995-2000
Gerald Edelman, Comment la matière devient conscience, Odile Jacob, 2000
Walter Freeman How brains make up their minds , Phoenix, 1999
Karl H. Pribram, Brain and perception - Holonomy and structure in figural proccesing, 1991, Lawrence Erlbaum Associates, Inc
Steven Pinker, Comment fonctionne l'esprit, Odile Jacob, 1999La suite du chapitre 3,
prochain numéro: section 3. La conscience collective