Apprentissage
profond (deep learning) dans le monde de la biologie
Jean-Paul Baquiast 16/01/2016
Les
systèmes biologiques sont apparus sur Terre il y
a environ 3,5 milliards d'années, avec les premières
molécules réplicatives. Depuis, ils n'ont
fait que s'étendre et se complexifier, avec l'explosion
dite cambrienne (il y a entre 542 et 530 Ma). Sont alors
apparus les grands embranchements de métazoaires
( pluricellulaires) avec une considérable diversification
des espèces animales, végétales et
bactériennes. Depuis Darwin, les scientifiques ne
doutent plus que les espèces humaines successives,
comme toutes les autres espèces vivantes, ont été
les produits d'une telle évolution. Elle a résulté
d'un phénomène générale, bien
étudié depuis par les biologistes évolutionnaires,
reposant sur le cycle mutation et sélection des plus
aptes confrontés aux contraintes du milieu.
Les
religions, encore aujourd'hui, continuent à affirmer
que le mécanisme de la sélection darwinienne
a été incapable d'orienter l'évolution
dans un sens tel que la complexification et surtout l'adaptabilité
croissante des espèces aient pu produire les espèces
telles que nous les connaissons. Il a fallu qu'intervienne
en permanence une volonté divine, extérieure
au milieu biologique, pour obtenir ce résultat, dont
l'homme est présenté comme le couronnement.
Cette croyance n'est pas seulement partagée par les
quelques 5 à 6 milliards d'humains sans formation
scientifique se rattachant à diverses formes de religions,
mais comme l'on sait par un certain nombre de scientifiques,
les adeptes de l'hypothèse du Dessein Intelligents.
Ceux-ci sont particulièrement nombreux aux Etats-Unis,
profondément imprégnés par diverses
croyances religieuses archaïques. Elles commencent
à se répandre chez les musulmans s'intéressant
à la science. Tout est dans le Coran. Tel est le
propos que nous recueillons souvent ici. .
Les
biologistes évolutionnaires matérialistes
(« naturalistes » selon le terme anglais
courant) n'en persistent pas moins à expliquer l'évolution
par la sélection darwinienne. Ils en apportent chaque
jour de nouvelles preuves expérimentales. A ceux
qui objectent le caractère apparemment dirigé
de l'évolution, au profit des formes les plus adaptées,
ils répondent que sur des milliards de mutations
survenant au hasard, au sein de chaque espèce, pouvant
produire des formes mal adaptées appelées
à disparaître, finissent nécessairement
par apparaître des formes mieux adaptées qui
permettront à l'espèce de s'étendre
et se perfectionner.
Cependant,
depuis la généralisation du darwinisme, les
évolutionnistes se sont demandé si, pour une
raison entièrement naturelle restant à découvrir,
l'évolution ne pouvait pas être orientée
a priori dans un sens favorable à l'apparition d'espèces
de plus en complexes, voire de plus en plus « intelligentes ».
Tout se passerait alors comme si la vie elle-même
s'organisait pour jouer le rôle attribuée à
la divinité dans le Dessein Intelligent, poursuivre
des finalités lui permettant de s'étendre
sur Terre plus rapidement et de façon plus adaptative
que résultant duseul hasard des mutations. Aucun
mécanisme de cette sorte n'avait encore été
démontré, mais cela n'empêchait pas
les défenseurs d'une « évolution
intelligente » naturelle d'en chercher de nouvelles
preuves, explicables par des raisons entièrement
matérielles.C'est ce que pensent aujourd'hui avoir
réussi à faire deux scientifiques, un spécialiste
des sciences computationnelles et un biologiste. (Voir ici
Référence de l'article, dans
Cell.com How Can Evolution Learn? )
Le premier
se nomme Richard Watson, professeur à l'University
of Southampton School of Electronics and Computer Science
et le second, Eörs Szathmàry, professeur de
biologie à l'Université Eötvös Loránd
de Budapest.
Ils
s'appuient pour cela sur ce qu'ils savent des performances
des systèmes d'intelligence artificielle (IA) dits
« apprenant », reposant notamment
sur les réseaux neuronaux, qui sont en train de conquérir
le monde de l'IA et de la robotique évolutionnaire.
Les logiciels de Deep learning (apprentissage profond),
la programmation et l'apprentissage automatique, les réseaux
neuronaux sont certes des créations produites pas
des programmeurs. Elles visent à réaliser
des fonctions déterminées et prévisibles.
Les Google, Facebook, Caltech et autres leur prévoient
actuellement de nombreuses applications avec les voitures
sans conducteurs, la reconnaissance du langage et des images,
etc.
Mais
le dynamisme de ces logiciels est tel qu'ils paraissent
pour certains spécialistes de l'IA, tels notre ami
Alain Cardon, en train d'échapper à leurs
concepteurs, civils ou militaires, et pouvoir se développer
sous la forme de systèmes autonomes dotés
de caractéristiques propres aux organismes biologiques,
notamment l'aptitude à la mutation/sélection.
Le Deep learning dans l'évolution
biologique
Cependant,
si l'idée n'est pas nouvelle et fait le succès
de nombreux ouvrages de science fiction, il reste à
identifier de tels mécanismes, ou des mécanismes
voisins, dans le monde biologique. Ceci non pas au niveau
des organismes supérieurs dotés de cerveaux,
capables en principe de se donner des objectifs et des méthodes
leur permettant d'échapper au déterminisme
biologique, mais à des niveaux beaucoup plus élémentaires.
La démarche est d'ailleurs classique, nous dirions
presque inévitable. Ce sont les innovations technologiques
qui permettent ensuite d'identifier dans la nature. des
mécanismes, sinon analogues du moins voisins et mettant
en oeuvre les mêmes logiques. Par exemple le sonar
militaire que l'on a « retrouvé »
chez les chauves-souris, après l'avoir mis au point
sans rien connaître des chauves-souris.
L'exemple
du Deep learning a notamment été retenu par
les auteurs. Ils montrent que la concurrence évolutive
au niveau des individus (phénotypes) d'une espèce
donnée n'a que des effets limités, car elle
se borne à éliminer les individus les moins
bien adaptés. Toute autre est la concurrence évolutive
entre traits ou caractères de cette même espèce.
Dans ce cas, elle a pour effet de contrôler la variabilité
phénotypique.
La sélection
naturelle peut alors faire apparaître des formes significatives
d'apprentissage intelligent. Les systèmes biologiques
évolutionnaires sur ce mode peuvent se comporter
comme capables de résolutions de problème
intelligentes. Apprenant globalement au niveau du système
(et non du seul phénotype) ils peuvent s'instruire
des expériences passées globales afin d'anticiper
les futures évolutions nécessaires à
l'adaptation face à un environnement lui-même
évolutif. Ils se comportent comme un learning system
artificiel.
Les
auteurs concluent que les processus biologiques évolutionnaires
sont équivalents, toutes choses égales d'ailleurs
compte-tenu de supports différents, aux processus
d'acquisition des connaissances dans les systèmes
d'intelligences artificielle apprenante. Nous pouvons ici
en déduire que si l'approche est fondée, ce
qu'elle paraît bien être, il faudra l'étendre
en recherchant dans les systèmes évolutionnaires
biologiques d'autres équivalents, non des systèmes
d'évolution artificielle intelligente tels qu'ils
sont actuellement réalisés, mais de ceux qui
ne manqueront pas d'apparaitre à l'avenir.
Comme
quoi, en reprenant l'exemple de la chauve-souris, nous pouvons
conclure que les technologies ne pourront jamais se perfectionner
en imitant ce qu'elles croient voir dans la nature. Elles
doivent suivre leurs voies propres de développement.
Après coup seulement, les biologistes pourront constater
qu'elles existaient déjà dans la nature. Avant
cela, ils avaient le nez dessus, pour parler un peu rustiquement,
mais ils ne voyaient rien. Regard non informé ne
peut rien percevoir.
Images
* Deep Learning en IA. Exemple 1

*
Deep Learning en IA. Exemple 2

* Deep learning biologique

Légende.
The evolution of connections in a Recurrent Gene Regulation
Network (GRN) shows associative learning behaviors. When
a Hopfield network is trained on a set of patterns with
Hebbian learning, it forms an associative memory of the
patterns in the training set. When subsequently stimulated
with random excitation patterns, the activation dynamics
of the trained network will spontaneously recall the patterns
from the training set or generate new patterns that are
generalizations of the training patterns. (AD) A GRN
is evolved to produce first one phenotype (set of characteristics
or traits Charles Darwin in this example) and then
another (Donald Hebb) in an alternating manner. The resulting
phenotype is not merely an average of the two phenotypic
patterns that were selected in the past. Rather, different
embryonic phenotypes (e.g., random initial conditions C
and D) developed into different adult phenotypes (with this
evolved GRN) and match either A or B. These two phenotypes
can be produced from genotypes (DNA sequences) that are
a single mutation apart. In a separate experiment, selection
iterates over a set of target phenotypes (EH). In
addition to developing phenotypes that match patterns selected
in the past (e.g., I), this GRN also generalizes to produce
new phenotypes that were not selected for in the past but
belong to a structurally similar class, for example, by
creating novel combinations of evolved modules (e.g., developmental
attractors exist for a phenotype with all four loops
(J). This demonstrates a capability for evolution to exhibit
phenotypic novelty in exactly the same sense that learning
neural networks can generalize from past experience. (credit:
Richard A. Watson and Eörs Szathmáry/Trends
in Ecology and Evolution)
Notes
1) Abstract
de l'article How Can Evolution Learn? Accès
payant
The theory of evolution links random variation and selection
to incremental adaptation. In a different intellectual domain,
learning theory links incremental adaptation (e.g., from
positive and/or negative reinforcement) to intelligent behaviour.
Specifically, learning theory explains how incremental adaptation
can acquire knowledge from past experience and use it to
direct future behaviours toward favourable outcomes. Until
recently such cognitive learning seemed irrelevant to the
uninformed process of evolution. In our opinion,
however, new results formally linking evolutionary processes
to the principles of learning might provide solutions to
several evolutionary puzzles the evolution of evolvability,
the evolution of ecological organisation, and evolutionary
transitions in individuality. If so, the ability for evolution
to learn might explain how it produces such apparently intelligent
designs.
2) Sur
le Deep learning ou « apprentissage profond »,
voir Wikipedia
Voir aussi un article
très explicite du Monde