Retour
au sommaire
Entretien
Thierry Berthier
A propos des ruptures technologiques financées
par la Darpa
13/04/2015
Thierry
Berthier est Maitre de Conférences
en Mathématiques à l'Université
de Limoges..
En dehors de tâches d'enseignement,
il anime le site Cyberland: Cyberespace, cyberdéfense,
cybersécurité. Stratégies,
Concurrences, duels et projections algorithmiques.
Il est membre du comité de pilotage
de Europe-solidaire.eu
Cyberland
http://cyberland.centerblog.net/
Jean-Paul
Baquiast pour Automates Intelligents (AI)
Cher Thierry Berthier, depuis plusieurs mois
déjà vous publiez le cyberland.centerblog.net
qui est devenu une source précieuse,
en français, permettant de porter un
oeil critique sur les développements
les plus récents des systèmes
dits notamment de cyberdéfense et de
cyberattaque. Ceux-ci sont devenus aujourd'hui,
sans que nous en soyons vraiment conscients,
des acteurs considérables du monde
numérisé dans lequel nous vivions.
Mais
vous ne vous limitez pas à cela. Vous
poursuivez des recherche dans la plupart des
domaines qui font l'objet de nos propres réflexions
et qui peuvent conduire à des êtres
vivants « augmentés »
selon la formule, hommes augmentés
et sociétés augmentées
en ce qui concerne les humains. Dans cette
perspective, certains auteurs, comme Ray Kurzweil,
responsable de l'ingénierie de Google
et fondateur de l'Université de la
Singularité, ont annoncé à
échéance de quelques dizaines
d'années la mise en place d'un cerveau
global dans lesquels nos propres cerveaux
joueront le rôle de neurones individuels.
Ces
développements ne surviendront pas
spontanément. Nous savons que certains
des « grands du web »
américain y travaillent activement,
notamment Google avec Kurzweil. Mais il y
aussi les militaires, et parmi eux l'agence
de recherche du ministère de la défense
des Etats-Unis, la Darpa. Vous estimez que
cette agence est en fait aujourd'hui le moteur
le plus efficace vers le passage à
une société radicalement augmentée
dite « société transhumaniste »
ou transhumanisme. Le fait que des militaires,
en principe soumis au secret défense,
deviennent les pionniers du transhumanisme,
et que de plus il s'agisse de militaires américains
dont l'emprise sur le monde présent
est déjà très forte,
ne peut qu'inquiéter. Nous y reviendrons.
Mais dans l'immédiat, pouvez vous nous
rappeler ce qu'est la Darpa?
Thierry
Berthier (TB): La Darpa (Defense Advanced
Research Projects Agency) est l'agence américaine
en charge des projets de recherche avancés
de défense. A l'origine de technologies
de rupture à usage militaire et d'avancées
majeures à impact mondial, l'agence
fait figure aujourd'hui de grand précurseur
de l'innovation. On lui doit en particulier
le développement du réseau ARPANET
qui est devenu l'internet actuel et le programme
Transit en 1958, ancêtre du système
GPS. Créée en 1958 elle s'impose
à l'époque comme une réponse
stratégique au programme soviétique
Spoutnik qui avait pris de vitesse la recherche
spatiale américaine.
AI.
Qu'en est-il de ses innovations plus récentes,
étant entendu que sa mission est de
maintenir une avance technologique de plusieurs
années, par rapport aux concurrentes
du reste du monde, ceci au profit de l'armée
américaine et, plus généralement
des Etats-Unis ?
TB.
Dès 1960, la Darpa mène des
recherches sur les drones, avions sans pilote
et vols hypersoniques. Plus tard elle oriente
ses efforts sur la furtivité aérienne
et lance
dès 1970 plusieurs programmes d'avions
furtifs. Elle est à l'origine des commandes
de vol électrique, des ailes supercritiques
et de la poussée vectorielle. Dans
les années 1980, elle engage ses équipes
de recherche sur les programmes Joint Strike
Fighter JSF, E8 Joint Stars et poursuit son
développement de drones, avec le Boeing
X-37, le drone hypersonique, le Boeing SolarEagle.
AI.
Signalons à propos du JSF que le programme
est aujourd'hui considéré comme
un échec industriel et un gouffre financier,
même s'il a permis la mise au point
d'un grands nombre de sous-ensemble innovants.
Le Rafale français à fait mieux
à un moindre prix, comme vient de le
reconnaître concrètement l'Inde.
Mais la Darpa investit dans d'autres domaines...
TB.
Oui. Parmi ses projets actuels, on trouve
de très nombreux programmes de
robotique comme Big Dog et Cheetah développés
par la filiale de Google Boston Dynamics pour
le compte de la Darpa, comme Atlas le robot
humanoïde, ou comme les exosquelettes
motorisés XOS...Vous avez d'ailleurs
rendu compte de ces réalisations dans
vos articles. Depuis la création de
l'agence, l'intelligence artificielle reste
en effet un domaine de recherche prioritaire.
La mémoire holographique et l'interface
neuronale font l'objet de nombreux travaux.
AI.
On peut remarquer que la Darpa, sur ces questions,
bénéficie des financements de
firmes telles que Google, laquelle a racheté
récemment presque toutes les start-up
(s) compétentes en AI et en robotique
intelligente. Ceci montre bien l'interpénétration
aux Etats-Unis du civil et du militaire. Mais
qu'en est-il du transhumanisme?
TB.
Le futur selon la Darpa est un futur résolument
transhumaniste tourné vers
l'augmentation de toutes les capacités
humaines. L'armée américaine,
comme annoncé par la National Science
Foundation dès 2002, sera à
l'horizon 2030 l'armée de la convergence
NBIC (Nanotechnologies,Biotechnologies, Informatique,
sciences Cognitives), de l'intelligence artificielle
présente sur le champ de bataille et
de la smart-guerre menées conjointement
sur les espaces physiques et numériques.
Les appels à contribution de recherche
lancés cette année par la Darpa
témoignent de l'engagement stratégique
futuriste de l'agence. Le dernier rapport
publié par la Darpa en mars 2015 (lien
ci-dessous) donne les grandes orientations
qui rejoignent souvent celles du projet global
de Google. Ses projets évoquent clairement
un engagement vers une pré-Singularité
Technologique...
AI.
Rappelons que, dans la terminologie de Kurzweil,
le terme de Singularité désigne
un moment où la convergence et le développement
exponentiel des NBIC rendraient possibles
d'innombrables solutions considérées
aujourd'hui comme théoriques. Pouvez-vous
évoquer certains de ces projets?
« Building
Ressource Adaptative Software Systems »
TB.
Oui. Prenons par exemple le programme de recherche
Brass (Building Ressource Adaptative Software
Systems) lancé tout récemment,
en avril 2015. Ce programme a pour objectif
de construire des applications logicielles
capables de s'adapter aux changements de spécifications
du projet sans aucune reprogrammation. Il
s'agirait ainsi du premier logiciel capable
de durer un siècle en restant performant
et fonctionnel.
AI.
Sur quoi reposerait cette capacité?
TB.
Il s'agirait d'une véritable rupture
technologique dans la course aux armements
algorithmiques, autrement dit logiciels. L'utilisateur
est aujourd'hui habitué aux cycles
rapprochés de mise à jour des
logiciels et à l'obsolescence programmée
ou non des systèmes. Cette instabilité
temporelle engendre de l'insécurité
dans les applications de l'armée américaine.
Dans l'absolu, un code adaptatif capable d'évoluer
de manière autonome durant cent ans
pourrait garantir une sécurité
fondée sur la stabilité. Il
permettrait de réaliser des économies
importantes en terme de maintenance et développement.
Le programme Brass qui s'étend sur
quatre années doit donner naissance
à des systèmes algorithmiques
robustes, fonctionnels à très
longue durée de vie. Ils s'adapteront
dynamiquement aux changements de ressources
dont ils dépendent et aux évolutions
de l'environnement dans lequel ils opèrent.
Pour
réaliser cet objectif, il faudra inventer
de nouvelles méthodes de calcul formel
et de nouvelles abstractions sémantiques.
L'objectif de Brass est particulièrement
ambitieux puisqu'il s'agit de construire des
systèmes capables de suivre l'évolution
de leurs environnements (numérique
et physique), de mesurer et "comprendre"
les mutations, d'évaluer les fonctionnalités
manquantes avant adaptation puis à
les développer de manière autonome.
AI.
Il s'agirait ainsi d'un programme quasi-vivant,
s'adaptant comme celui d'un système
biologique aux changements de l'environnement,
capable également de se réparer
lui-même...Comme vous le dites, on se
situe là en lisère d'une Singularité
Technologique.
TB.
En effet, le niveau d'intelligence artificielle
impliquée dans le processus complexe
de mise à niveau autonome du logiciel
est forcément très élevé.
Le code autonome qui évolue dans le
temps en s'adaptant aux nouvelles demandes
nécessite une remise en perspective
totale des méthodes de calculs et des
architectures actuelles. S'il devient réalité,
il sera la meilleure réponse aux problèmes
de cybersécurité puisque les
mises à jour s'effectueront au même
rythme que les cyberattaques. Du côté
des hackers, il faudra utiliser le même
type d'architecture adaptative évoluant
en fonction de la défense des systèmes
pour espérer tromper la cible. Les
futurs duels seront algorithmiques et seulement
algorithmiques.
AI.
Certes. Mais si de telles propriétés
demeurent la propriété exclusive
des systèmes militaires (ou des hackers),
alors qu'ils pourraient bénéficier
à tout l'univers de la programmation,
le risque politique sera considérable.
TB.
La Darpa ne réserve pas aux seuls systèmes
d'armes les innovations qu'elle promeut. Vous
en avez un exemple avec les véhicules
autonomes qu'elle a encouragés. Mais
il est évident que l'armée américaine
est la première bénéficiaire
de ses recherches. Ainsi en est-il dans le
cas des véhicules autonomes terrestres
ou aériens visant à remplacer
le personnel humain sur le champ de bataille.
AI.
Pouvez-vous nous donner un autre exemple de
quasi-Singularité à portée
des recherches de la Darpa?
Un
programme d'interface neuronale
TB.
Je peux citer le programme Re-Net, visant
à redonner de l'autonomie aux soldats
américains blessés au combat,
en perte d'autonomie, ou nécessitant
la pose de prothèses à la suite
d' une amputation. L'interface neuronale réalise
alors le lien entre la prothèse et
le cerveau humain afin d'établir un
neuro-contrôle de cette prothèse.
Depuis 2010, de nombreux succès technologiques
sont venus confirmer la pertinence de ce programme.
On imagine sans peine que les résultats
peuvent être adaptés à
l'interfaçage neuronale d'individus
non blessés dans un contexte d'augmentation
des capacités cognitives. L'augmentation
du handicapé est éthiquement
admissible et globalement acceptée.
AI. Qu'en est-il d'une
augmentation sur individu valide?
TB. Le programme Re-Net rencontre comme je
l'indiquais au début de cet entretien
la thématique majeure du transhumanisme.
Google travaille d'ailleurs depuis quelques
années sur le même type d'interface
neuro-cloud destinées à connecter
le cerveau humain à l'espace numérique.
Il s'agit d'une tendance forte qui, selon
Ray Kurzweil, devrait devenir opérationnelle
à l'horizon 2030, c'est-à-dire
dans une petite quinzaine d'années.
Il ne faut pas perdre de vue que cette course
vers l'humain augmenté est mondiale.
La Darpa n'est pas la seule dans la compétition
mais devra comme toujours, compter avec les
avancées chinoises, russes, coréennes,
japonaises et (peut-être) européennes.
Les premières nations qui maîtriseront
cette technologie de rupture disposeront alors
de capacités stratégiques nouvelles
dont les effets et la puissance sont difficilement
mesurables aujourd'hui. Celles qui n'auront
pas engagé d'efforts de recherches
dans le domaine auront définitivement
perdu la course. Lorsque l'on parle de course,
il faut la comprendre en terme de perte de
souveraineté technologique, de perte
de souveraineté nationale, et d'effondrement
dans le classement mondial techno-économique.
L'interfaçage neuronal constitue certainement
le plus grand défi technologique du
21 ème siècle.
La Darpa le sait depuis plus d'une décennie.
Elle prépare activement cette révolution
et adapte l'infrastructure militaire américaine
au changement de paradigme technologique.
AI. Vous évoquez
ici les progrès que devront faire les
autres pays pour rester au niveau de la Darpa,
de l'armée américaine, de la
NSA, de la CIA et finalement des grands du
web américains qui sont associés
aux précédents. Autant que nous
puissions dire de cette question ici, ces
progrès sont fort cahotiques et dispersés.
Il est difficile de juger de ce que font la
Chine et le Japon, mais concernant la Russie,
l'Inde et bien évidemment l'Europe,
peut-on affirmer que leurs chercheurs et leurs
entreprises sont dans la course? L'intitulé
des programmes financés par l'Union
européenne dans ce domaine pourrait
rassurer, mais à y regarder de près,
en caricaturant un peu, on pourrait dire qu'ils
forment des scientifiques ou bien encouragent
des entreprises qui finalement entrent dans
l'orbite américaine pour n'en plus
sortir. Ne donnons pas d'exemple ici, mais
ils sont nombreux.
TB. Si l'Europe se laisse distancer dans cette
course technologique civile et militaire,
elle perdra définitivement une grand
partie de sa souveraineté. C'est certainement
l'enjeu stratégique principal de ce
début de 21 eme siècle.
Pour
en savoir plus
Le rapport Darpa 2015 (format pdf) :
http://www.darpa.mil/WorkArea/DownloadAsset.aspx?id=2147488951
Note
au 14/04/1015
Les
systèmes avancés de défense
développés par la Darpa ne se
limitent évidemment pas à ceux
évoqués dans cet entretien.
Voir par exemple un article de Spacewar.com
http://www.spacewar.com/reports
/New_DARPA_Programs_Simultaneously_Test_Limits_of_Technology_Credulity_999.html
Retour
au sommaire
