logo admiroutes Les automates intelligents
robotique, vie artificielle, réalité virtuelle


information, réflexion, discussion
logo automate © Anne Bedel
Jean-Paul Baquiast Jean-Paul.Baquiast@wanadoo.fr
Christophe Jacquemin christophe.jacquemin@admiroutes.asso.fr

N° 11
Retour au sommaire
 
Le feuilleton
 
Le paradigme de l'automate
ou le dialogue d'Alain et Bernard

Jean-Paul Baquiast

Chapitre 4 L'homme et l'automate Section 1. Le mème du libre-arbitre


Avant de lire ce feuilleton, il est conseillé au lecteur de se reporter
à nos éléments de définition

NB: Les * renvoient aux références bibiographiques fournies en fin de texte. Nous nous sommes limités à l'indispensable.

Episode précédent

Résumé du Chapitre  4

Alain et Bernard en arrivent aux conclusions. Ils seraient très heureux, selon une tradition bien française, de voir une autorité quelconque décider de lancer un grand programme de recherche sur les automates intelligents, et plus généralement sur l'ensemble des sciences et techniques se trouvant impliquées par ce paradigme de l'automate intelligent dont ils viennent de discuter. Les travaux actuels, aussi intéressants et innovants soient-ils, ne bénéficient pas encore de l'attention des décideurs politiques et économiques, non plus malheureusement que de l'intérêt d'une large partie du monde académique et scientifique. Par ailleurs, ils se développent dans des environnements trop étanches, empêchant l'interfécondation et la ré-entrance massive qui seraient nécessaires. Quant au grand public, il ignore ou méjuge toutes ces questions de façon systématique.

Mais se repose alors à nos amis, avec acuité, le problème du libre-arbitre, qu'il soit individuel ou collectif. Est-ce que cela présente un sens de dire : faisons ceci ou cela ? Autrement dit, si nous prenons telle décision que nous croyons volontaire, sommes-nous en fait conditionnés à le faire par un déterminisme qui nous échapperait, et dans ce cas la décision serait prise de toutes façons. Dès lors, à rien ne servirait, si l'on peut dire, de s'exciter par un pseudo-volontarisme. Au contraire, le fait de nous mobiliser dans le cadre de ce que nous croyons être une décision volontaire consciente, décision que nous sommes libres de prendre ou de ne pas prendre, apporte-t-il une valeur ajoutée à notre action, qui nous donnera une compétitivité accrue par rapport à ceux qui céderont passivement aux déterminismes. Pour que nous puissions croire à cette dernière perspective, nous devons impérativement nous donner une explication scientifique crédible du libre-arbitre, éliminant évidemment toute référence spiritualiste.

Alain et Bernard se sont persuadés que l'évolution de l'univers, telle qu'elle apparaît dans le discours scientifique contemporain, tend à montrer l'émergence de structures capables d'innovations ou d'inventions de plus en plus complexes. Les plus "évoluées" de ces structures semblent se donner des facultés, d'ailleurs limitées, d'auto-représentation. A partir de telles auto-représentations, elles paraissent pouvoir disposer d'une certaine marge d'auto-détermination. C'est là que réside le cœur du phénomène dit de l'esprit ou du libre-arbitre.

Force est d'admettre que le mécanisme neurologique ou relationnel-sociétal d'un tel phénomène nous échappe encore en partie, bien que certains pensent être sur la voie d'en simuler certaines fonctions sur des automates intelligents. On peut s'en donner cependant une image grossière en imaginant qu'une fonction (fonction "Recherchez solution") commandant ce que nous appelons la décision volontaire est apparue lors d'une mutation, et a été conservée et amplifiée compte-tenu des avantages sélectifs procurés.

Quoi qu'il en soit, le "libre-arbitre" n'est pas le seul cas où nous sommes obligés de nous inscrire dans un mécanisme d'ensemble auquel nous ne pouvons donner d'explication globale satisfaisante. L'exemple le plus évident de cette cécité obligée est le Temps, dont nous sommes forcés de tenir compte, sans attendre que les cosmologistes, comme certains l'espèrent, puissent un jour en donner une véritable explication, le réduisant d'ailleurs sûrement à une caractéristique locale d'un univers parmi d'autres, le nôtre.

Alain et Bernard partent donc de l'hypothèse selon laquelle admettre la possibilité de prendre des décisions dites à tort ou à raison volontaires ne peut, au pire, pas faire de mal et ne peut, au mieux, que faire du bien. C'est un peu le pari de Pascal renouvelé. Dans ce cas, quitte à prendre des décisions volontaires, il est utile de décider volontairement des meilleures conditions pour que ces décisions soient utiles à notre survie. Nous nous trouvons alors replacés dans la perspective plus classique de la programmation socio-politique : quels objectifs nous fixons-nous et que faire pour réunir les meilleures conditions de succès au profit de ces objectifs ?

Comme Alain et Bernard sont des praticiens du travail coopératif utilisant les média modernes, ils sont persuadés de la nécessité de privilégier les initiatives en réseau, provenant le plus souvent possible de la base des hiérarchies de pouvoirs, et pas seulement des grandes superstructures. Ils rappellent la conviction qui est la leur à ce suje t: les systèmes les plus aptes à la compétition, tout au moins dans le domaine de la civilisation humaine, seront sans doute des systèmes ouverts, décentralisés et pour tout dire, démocratiques. De même, l'intelligence de l'avenir visera à privilégier l'invention répartie et (si possible) quelque peu anarchique. Ce sont ces principes philosophiques et politiques qui, selon eux, devraient inspirer un programme de recherche sur les automates intelligents.

Section 1. Le mème du libre-arbitre

Bernard

Nous voici presque arrivés à la fin de nos discussions. Il va nous falloir conclure, au moins provisoirement...

Alain

Je t'avoue qu'après avoir évoqué toutes les recherches que l'on pourrait entreprendre dans le domaine de la vie et de la conscience artificielle, toutes les choses que l'on pourrait découvrir, si l'on disposait d'équipes nombreuses, d'outils performants, je me sens un peu déçu. Les laboratoires concernés sont encore rares, les produits sont très spécialisés et plutôt rudimentaires. La France, pour sa part, n'est une nouvelle fois pas à l'avant-garde, sauf erreur. Ce n'est pas demain que les perspectives que nous avons envisagées pourront commencer à se concrétiser dans notre pays.

Bernard

Il est certain que lorsque l'on se trouve au début de nouvelles découvertes scientifiques, le chemin qui reste à faire paraît toujours long. Mais comme les développements significatifs portant sur les automates intelligents ne sont pas de toutes façons probables avant quelques décennies, il faut nous organiser pour mettre en place dès maintenant les bases d'actions futures plus ambitieuses que celles prévalant actuellement. Ce ne sera pas du temps perdu, car la transformation des mentalités, indispensable à la réalisation de ces actions, peut et doit commencer tout de suite. Ce serait déjà très bien, dans les mois et années qui viennent, de provoquer une curiosité plus grande, dans le public, ou dans le monde des décideurs politiques, à l'égard des questions que nous avons évoquées. Ce serait encore mieux, suite à cette curiosité, d'éveiller l'intérêt de nouveaux chercheurs, dans un vaste éventail de disciplines.

Alain

Mais pour bien faire, ne faudrait-il pas tenter plus : essayer de provoquer un grand programme de recherche pluri-annuel en faveur des automates intelligents, associant le public et le privé. Ce programme pourrait bientôt faire partie des priorités, au même titre que d'autres grands programmes techno-scientifiques mieux connus, intéressant le spatial, les océans, la recherche médicale, la génétique...

Bernard

Les esprits ne semblent malheureusement pas encore mûrs pour cela en France. Il existe ce qu'on appelle une Action Concertée Incitative, lancée en 2000, qui porte sur la cognitique, dans un esprit interdisciplinaire, et une autre dans le domaine des neurosciences. Mais la démarche risque de rester très théorique. Elle se heurte à la féroce jalousie qu'éprouvent les chercheurs et les écoles les uns vis-à-vis des autres. Par ailleurs, l'Intelligence Artificielle (IA) est encore passablement méprisée par eux, un peu comme l'informatique d'ailleurs. Ces braves gens expliqueront au ministre qu'il vaudrait mieux affecter d'éventuels crédits en soutien de leurs propres recherches, en laissant le financement de l'IA au bon cœur des constructeurs automobiles…

Alain

Je crois que tu exagères. Mais, de toutes façons, il me semble que nous devrions, avant de regarder en détail ce que devrait comporter un tel programme de recherche, rappeler les prémisses "philosophiques" ou politiques qui justifieraient lesdites recherches. Le sujet des automates, nous l'avons dit plusieurs fois, est trop sensible pour que nous ne prenions pas de grandes précautions avant de tenter de convaincre qu'il serait utile d'y investir. Le mythe de Frankenstein, de l'apprenti sorcier, nourri de tous les débats sur les sujets voisins du transgénique, ne demande qu'à reprendre vie. Nous serions vite accusés d'être des technologues irresponsables, déshumanisés et liberticides. Brrr! J'en tremble !

Bernard

Tu as raison. On ne s'explique jamais assez. Essayons de résumer en quelques conclusions l'essentiel de la philosophie qui s'est, me semble-t-il, dégagée de nos discussions. Tu me diras ce que tu en penses. Je te propose une formulation à l'emporte-pièce, nécessairement sommaire et appelant d'innombrables nuances... Mais nous n'avons pas le temps de nuancer.

Première conclusion : il nous est apparu que l'une des filières évolutives du monde terrestre débouche sur l'apparition de systèmes dotés de capacités de plus en plus performantes d'auto-représentation symbolique et d'auto-invention, à partir de ces représentations. Ces capacités nous semblent - peut-être à tort - particulièrement développées chez l'homme. La machine à inventer résultant du fonctionnement des cerveaux humains interconnectés par les réseaux sociétaux est infiniment plus performante et réactive que celles à la disposition des génomes et des formes sociales du monde animal préhominien. Les sociétés humaines modernes en sont des exemples au sens propre aveuglants, aveuglants parce qu'ils nous occultent sans doute des phénomènes de même nature existant dans ce que l'on pourrait appeler le spectre de la vie non immédiatement visible.

Nous avons nommé "systèmes intelligents" ces systèmes sociaux. Mais nous les avons aussi qualifié de systèmes très largement automatiques, dans la mesure où, le plus souvent, ils se mettent en place et fonctionnent selon leur propre logique, beaucoup sans l'intervention d'une volonté régulatrice interne. Ils ne disposent pas non plus d'auto-représentation consciente couvrant l'ensemble de leurs activités. Sous cet angle, l'intelligence n'est pas autre chose qu'une forme évoluée ou émergente de l'évolution des automatismes biologiques plus simples.

Alain

N'oublie pas de préciser que si ces systèmes sont apparus, c'est à la suite d'une sélection aveugle sur le mode darwinien. Aucune finalité extérieure n'a guidé leur naissance, ni ne guide leur devenir.

Bernard

Bien sûr. Mais nous ne pouvons esquiver cependant, tout en nous en tenant strictement aux prémices du darwinisme évolutionnaire, de faire mention du libre-arbitre, ou fonction ainsi nommée, qui nous donne l'impression de pouvoir, avec une marge d'autonomie plus ou moins grande, prendre seuls les grandes et petites décisions qui concernent notre avenir - c'est-à-dire échapper, au moins en partie, aux automatismes dont nous venons de parler. Ces décisions se résument d'ailleurs toutes en petites ou grandes inventions ou ré-inventions. Nous pouvons donc assimiler libre-arbitre et invention volontaire et consciente de l'être.

Alain

L'autonomie de la volonté, ou libre-arbitre, est en effet l'argument massue par lequel les partisans du dualisme corps-esprit nous disent : "Voyez, même si vous vous dites matérialistes, vous être loin d'être déterminés par des mécanismes du monde physique ou du monde biologique. Vous disposez d'une liberté de choix qui montre bien l'existence en vous de l'esprit… un esprit dont vous êtes bien incapable d'expliquer l'apparition par des arguments évolutionnistes - même en faisant appel à des mécanismes qui restent plus ou moins fumeux relatifs à l'émergence de l'autonomie à partir de la complexité, ou autres causes qu'il n'est pas possible de mettre en évidence dans le cerveau humain, et moins encore de reproduire".

Bernard

Il est certain que je ne peux sérieusement prétendre que toi, moi ou tous ceux présentant la faculté (fut-elle modeste) de raisonner et de se gouverner, soyons des zombies déterminés par les grandes lois épigénétiques du monde animal. Même si, à force de raisonnements matérialistes, nous pouvions nous persuader un instant que cette apparence de libre-arbitre n'est qu'un épiphénomène, et que lorsque nous croyons prendre une décision, elle a déjà été prise par une partie inconsciente de nous-mêmes, nous ne le croirions plus l'instant suivant.

Alain

C'est sûr que je ne te vois pas proclamant partout que tout est déterminé, et que les gens n'ont qu'à se laisser faire par les événements - appliquant la démarche chère aux régimes politiques fragiles, celle dite du chien crevé au fil de l'eau. Mais pourquoi ne pas envisager que la fonction d'auto-pilotage dit volontaire dont nous croyons éprouver au moins de temps en temps en nous la puissance, ne soit pas apparue par le biais d'une petite mutation dans le cerveau des animaux dotés de systèmes évolués d'auto-représentation.

Bernard

C'est précisément ce que j'allais te proposer de prendre en considération. Il n'y a aucune raison de penser que l'évolution darwiniste n'ait pas laissé apparaître le libre-arbitre, à l'occasion d'un événement fortuit ayant donné aux hominiens qui en ont été le siège de tels avantages compétitifs que les gènes commandant cette fonction se sont très vite répandus.

Alain

Soit, mais précisons un peu ce que tu veux dire.

Bernard

Nous avons vu précédemment que la simple évolution vers la complexité des cerveaux hominiens permettait de faire apparaître des programmes dits de conscience de soi. Personne ne le nie aujourd'hui, même les spiritualistes les plus convaincus. Dans le même temps, personne ne nie non plus que la plupart des espèces, et à plus forte raison les plus "évoluées", disposent de programmes élaborés pour essayer de se tirer d'affaire dans des situations difficiles. En d'autres termes, elles disposent de programmes de recherche de solution qui explorent l'environnement, simulent des stratégies, mémorisent les bons résultats, etc. Initialisés sur le mode essais et erreurs, ils donnent lieu ensuite à de vastes banques de programmes décisionnels, restant à ce stade inconscients.

Or on peut imaginer que les centres et faisceaux nerveux contribuant à la conscience de soi, et ceux commandant les comportements de recherche de solution, après avoir fonctionné dans des registres séparés, ont pu communiquer, suite à une infime mutation des gènes commandant l'architecture d'ensemble du cerveau. Cette mutation, de faible ampleur sur le plan génético-neurologique, a eu des conséquences énormes sur le plan comportemental, en ce sens que, dorénavant, la conscience de soi s'est construite essentiellement à partir de la mise en œuvre de comportements visant à inventer des solutions de survie. Ceci est d'ailleurs conforme à ce que l'on suppose relativement à l'émergence de la conscience. Elle naît d'un sentiment d'urgence vécue par le corps tout entier, quand il est mis en situation difficile. Le moi conscient se construit lorsqu'il est plus ou moins violemment questionné par les événements ou êtres extérieurs.

Alain

Ceci veut dire qu'aujourd'hui, quand je suis confronté à une difficulté ou un choix, supposant la prise de décision, le moi conscient est programmé pour faire appel à l'invention de cette solution, ce qui me donne l'impression d'être libre face à la difficulté ou au choix. Mais je ne suis pas libre en fait.

Bernard

Tu es libre, par rapport à ce que serait un système obéissant à des déterminismes plus rustiques, dans la mesure où tes programmes de recherche de solution explorent différentes possibilités, en simulent les résultats - sur la base d'ailleurs d'algorithmes très simples (qui pourraient être pourquoi pas des algorithmes du genre génétiques) - et finissent par retenir ce qui pour eux - et pour toi- constitue sur le moment la solution la meilleure. Comme nous venons de le dire, la conscience de soi s'active au moment précis où le programme de recherche de solutions balaie toutes les données - conscientes et inconscientes - dont tu disposes pour te permettre d'élaborer des scénarios de survie aussi "scientifiques" que possible. Ce faisant, le programme qui soupèse tel argument, retiens l'un, rejette l'autre, te donne l'impression que c'est toi qui fait ceci librement. Mais cette impression, après tout, correspond à la réalité. Tu es devenu, à ce moment, le programme en question. C'est lui qui représente le meilleur de toi. Bien entendu, si la décision se prend dans le cadre d'un dialogue avec des tiers, les programmes échangent leurs résultats intermédiaires, et le résultat final est un optimum de compromis dans lequel chacun des partenaires peut se reconnaître.

Alain

Mais j'insiste : en quoi suis-je libre, si tout ceci se fait plus ou moins automatiquement ?

Bernard

Excuse-moi de te dire que cette réflexion n'est pas très maligne. C'est comme si tu me disais : en quoi suis-je libre, si ma pensée est déterminée par le fonctionnement de mes neurones. Ou tu considères l'esprit comme une entité radicalement irréductible au cerveau, ou tu acceptes que celui-ci soit en dernier ressort, en mettant en oeuvre des processus automatiques, le siège de tes pensées, les plus intelligentes ou les plus éthérées soient-elles.

Alain

Tu as raison. Finalement, le fait nouveau apparu dans l'évolution darwinienne des espèces, est que certaines d'entre elles sont devenues capables de raisonner leur avenir, et prendre des décisions à relativement longue portée, en mobilisant l'ensemble des informations et expériences acquises par elles au cours de l'histoire, sous la forme notamment des contenus des sciences et des techniques.

Bernard

Oui. Cela leur a donné et leur donne indiscutablement des avantages sélectifs. Il n'est que de voir la place prise par l'homme dans la nature. Mais cela ne leur permet pas de maîtriser l'ensemble de leur devenir, compte-tenu des limites de leur science, comme plus généralement de leur appareil cérébral et corporel. Le match reste ouvert, par exemple avec les virus, prions et autres organismes mutants.

Alain

Je trouve que ce que tu appelles le programme de recherche de solution ressemble énormément à un mème, cette entité informationnelle qui circule dans les cerveaux et les réseaux d'échanges humains, et qui leur dicte (ou leur suggère) des comportements plus ou moins appropriés.

Bernard

Tu as tout à fait raison. Il s'agirait en ce cas d'un mème que l'on pourrait qualifier de bénéfique pour la survie des entités qui en sont porteuses, de la même nature mais à portée autrement plus vaste que le mème interdisant de toucher à une flamme pour éviter de se faire brûler. Cette comparaison démystifie d'ailleurs utilement le concept de libre-arbitre. Ce mème, le libre-arbitre (que nous pourrions assimiler à une macro-instruction commandant la mise en œuvre du programme de recherche de solutions) est apparu aussi simplement que n'importe quel autre mème, sans intervention spécifique du saint-esprit. Il se répand parce qu'il est utile à la survie des individus conscients et des gènes de l'espèce humaine dont nous sommes les représentants.

Nous voyons d'ailleurs à chaque instant fonctionner en nous ce mème du libre-arbitre, qui nous oblige à lutter en permanence contre la paresse intellectuelle et l'engourdissement relationnel. Tout nous dit et nous répète, y compris nos voix intérieures : "tu n'as pas le droit de t'endormir, d'accepter la fatalité, la mauvaise humeur de ton patron, il faut que tu trouves une solution, etc.". Ceux qui sont imperméables à ce fichu mème passent en général pour des malades de la volonté, en proie à toutes les dérives potentielles. Or les animaux échappent à cette espèce de tracassin. Ils peuvent dormir tranquillement, eux, quand ils en ont envie.

Alain

Mais quand tu me parles, en ce moment, en me disant que nous devrions penser ceci ou cela, c'est toi qui parles ou ce mème ?

Bernard

Sur le moment, je suis ce mème, il me mobilise et je l'enrichis. Autrement dit, nous constituons une symbiose, qui vivra un temps plus ou moins long.

Alain

Existe-t-il à ton avis un ou plusieurs gènes du libre-arbitre, correspondant à notre mème ?

Bernard

Tu n'espères pas que je puisse répondre à cette question ? Il est certain qu'il existe de nombreux gènes codant pour les structures cérébrales générant les faits de conscience, mais de là à penser… après tout, pourquoi pas ? Il y a au moins un ou plusieurs gènes codant pour l'activité de recherche systématique, en liaison avec les centres associatifs générant la conscience.

Alain

Finalement, les différentes machines à inventer dont nous avons parlé ont abouti, dans une certaine filière d'invention ayant survécu jusqu'ici, celle où se trouve l'espèce humaine, à produire des organismes susceptibles dans une certaine mesure de conceptualiser leur devenir, inventer des solutions et prendre des décisions anticipant l'évolution future, donc ayant sur cette dernière des effets plus ou moins importants.

Bernard

Oui. Mais ne nous grisons pas. Si l'espèce humaine devenait capable de connaître et maîtriser l'ensemble de la nature, nous pourrions affirmer que l'univers, au moins sur Terre, est devenu par notre biais apte à plus ou moins auto-diriger son avenir. Malheureusement ou heureusement, nous n'en sommes pas là, pour le moment du moins, et sans doute pour longtemps encore.

Alain

Bien. Je crois que nous avons abouti à une conclusion très importante - sous réserve d'inventaire, évidemment. Nous avons réintroduit dans l'histoire darwinienne de l'évolution l'émergence et le développement du libre-arbitre et de la décision inventive consciente, en soulignant évidemment les limites de celui-ci. Mais revenons aux automates. Que pouvons nous en dire ?

Bernard

Ce sera la seconde de nos conclusions. Il nous est apparu que les automates technologiques tels que nous les envisageons actuellement ne sont que le prolongement (électronique ou bionique) des mécanismes d'évolution des automatismes sous-jacents, au sein des systèmes vivants notamment, ainsi qu'au sein de certains de ces systèmes, les sociétés et les organismes humains. Nos automates sont le plus souvent des prolongements rustiques et simplifiés, par rapport aux mécanismes naturels qui sont encore souvent mal identifiés ou difficiles à reproduire.

Mais les hommes, dotés comme nous l'avons dit de programmes "volontaristes" ou non, de recherche de solutions, sont en train de faire tout ce qu'ils peuvent pour que ces automates deviennent de plus en plus performants. Tout se passe comme si de nouvelles mutations, sinon sur le plan génétique, tout au moins sur le plan sociologique ou mémétique, se produisaient actuellement afin qu'émergent des automates complétant, voire dépassant les possibilités des individus ou groupes humains.

Il est significatif de voir qu'au moment où l'intelligence artificielle ancienne manière (inspirée de ce que nous savons de l'esprit humain) atteignait ses limites, de nouvelles méthodes de recherche, utilisant les algorithmes évolutionnaires puis les hardware évolutionnaires, vont aboutir à l'apparition d'artefacts capables de rivaliser puis de dépasser les hommes, notamment dans les fonctions de recherche de solutions ou invention.

Ces nouveaux automates seront dotés par nous, ou se doteront eux-mêmes, des programmes de recherche de solution dont nous avons parlé. Ils deviendront alors de redoutables machines à inventer et à décider. J'imagine une macro-instruction tournant en permanence, et répétant à l'automate qu'il est libre de décider, et que pour décider, il doit rassembler tous les éléments en sa possession lui permettant de prendre une décision intelligente…

Alain

Nous avons déjà observé que rien ne permettait de pronostiquer que de tels automates entreraient en conflit avec les hommes.

Bernard

Non. Nous avons tout lieu de penser qu'ils entreront plutôt en symbiose avec ces derniers. Mais la face du monde, et le rythme de l'évolution, en seront sans doute encore radicalement changés. La machine à inventer globale aura encore changé de dimension et de vitesse.

Alain

Dans la présentation que nous faisons ici, c'est l'individu, homme ou automate, qui est le siège des fonctions de recherche de solution et de libre-arbitre. Peut-on étendre ces mêmes fonctions aux groupes petits et grands constituant la société humaine ?

Bernard

A priori oui, dans la mesure où nous considérons que les groupes sont constitués d'individus, et synthétisent, selon des modalités souvent d'ailleurs trop chaotiques pour être facilement prédictibles, les comportements et opinions des individus. Nous devrons donc nous attacher à étudier le fonctionnement, conscient ou inconscient, des individus en réseau. Les difficultés sont immenses, dès que l'on veut dépasser le stade des généralités. Mais il faut le faire, car c'est là que réside l'explication de bien des phénomènes qu'en tant qu'individus, nous percevons plus ou moins bien, sans nous les expliquer, et sans pouvoir agir sur eux.

Alain

Il faut le faire dans la perspective de la compétition darwinienne entre systèmes.

Bernard

Exact. Il faut sans cesse nous remettre en tête que les systèmes, quels qu'ils soient, naturels ou artificiels, sont en compétition permanente les uns avec les autres. Ceux dotés de capacités à l'intelligence, telles que définies ci-dessus, ne sont pas assurés de l'emporter dans cette compétition. Au sein même des systèmes intelligents, où tous les types d'organisation peuvent se rencontrer, la compétition règne également. Chaque système pose comme valeurs suprêmes les règles d'organisation les plus aptes, selon lui, à assurer sa survie (il appellera peut-être alors ces règles des règles morales). Mais ce sera le succès ou l'échec compétitif qui jugera, a posteriori, de l'opportunité des unes ou des autres. Il faut rappeler aussi que, lorsque l'un d'entre nous, toi, moi, ou toute autre personne, parlons et agissons, nous ne le faisons pas gratuitement, ou idéalement, mais exprimons le point de vue, et les intérêts, du système automate plus vaste qui nous englobe. Si nous changeons d'opinion, ou si nous adoptons plusieurs opinions non simultanément compatibles, c'est parce que plusieurs systèmes se disputent le contrôle de notre machine à prononcer des jugements.

Cependant, bien qu'inclus dans des systèmes plus vastes nous déterminant globalement, nous avons, toi, moi et les autres, nos propres capacités de traitement intelligent réparti : notre cerveau, les automates électroniques ou bioniques que nous pourrons utiliser, les réseaux auxquels nous pourrons nous connecter. Chaque individu humain dispose donc de la possibilité, selon les ressources d'intelligence décentralisée auxquelles il peut accéder, d'apporter de la valeur ajoutée à l'intelligence collective dont il est l'un des composants. Autrement dit, la société humaine héberge deux architectures automatiques intelligentes différentes : celle des systèmes construits sur le mode de l'intelligence centralisée s'appuyant sur des terminaux plus ou moins passifs (les hommes inéduqués, privés du droit à la parole et à l'initiative) et celles des systèmes travaillant sur le mode de l'intelligence en réseau, intelligence répartie entre sous-réseaux se comportant chacun pour son compte en machines à inventer décentralisées, travaillant à la fois pour leur bénéfice propre et pour le bénéfice de l'ensemble.

Alain

Ce devraient être ces derniers qui l'emporteraient, dans la compétition darwinienne entre méga-systèmes automates dont tu nous parles... Ils sont plus souples et plus flexibles que les systèmes centralisés.

Bernard

Nous ne pouvons rien pronostiquer de tel. Seul l'avenir dira ce qu'il en sera. Mais si nous voulons, en tant que représentants des systèmes d'intelligence répartie auxquels nous aspirons, favoriser une décentralisation accrue de cette dernière, notre "mème du libre-arbitre", travaillant en notre faveur, nous suggère qu'il faudra proposer ou prendre des décisions très précises pour que les développements de l'intelligence artificielle future se fassent dans ce que nous considérerons être la meilleure des directions possibles.

Auteurs à consulter
Pierre Bergé, Yves Pommeau, Monique Dubois-Gance Des rythmes au chaos Editions, Odile Jacob 1994
Alain Cardon Conscience artificielle et systèmes adaptatifs. Eyrolles, 1999
Antonio Damasio, Le sentiment même de soi, Editions Odile Jacob, 1999

Richard Dawkins, Le gène égoïste, Armand Colin , 1990
Daniel C. Dennett, La conscience expliquée, Editions Odile Jacob, 1991-1993
Jean-Louis Dessalles L'ordinateur génétique Hermes 1996 
Gerald Edelman, Comment la matière devient conscience, Odile Jacob, 2000
Walter Freeman How brains make up their minds , Phoenix, 1999

Michio Kaku, Visions - Comment la science va révolutionner le XXIe siècle, Albin Michel, 1999

La suite au prochain numéro
Chapitre 4. L'homme et l'automate. Section 2 L'anarchisme méthodologique


Retour au sommaire