Vers le site Automates Intelilgents
La Revue mensuelle n° 98
Robotique, vie artificielle, réalité virtuelle

Information, réflexion, discussion
logo admiroutes

Tous les numéros


Archives
(classement par rubriques)

Image animée
 Dans La Revue
 

Retour au sommaire

Automates Intelligents s'enrichit du logiciel Alexandria.
Double-cliquez sur chaque mot de cette page et s'afficheront alors définitions, synonymes et expressions constituées de ce mot. Une fenêtre déroulante permet aussi d'accéder à la définition du mot dans une autre langue (22 langues sont disponibles, dont le Japonais).

Science et politique. IJCAI. Les machines intelligentes deviendront-elles hostiles à l’homme?
par Jean-Paul Baquiast et Christophe Jacquemin - 29/07/2009

On pourrait penser que les principales menaces pesant sur nos sociétés viennent des hommes eux-mêmes, ou d’organismes biologiques tels que les virus. Mais les chercheurs en intelligence artificielle (IA) en ajoutent d’autres, celles qui pourraient provenir de machines intelligentes devenues vicieuses ou hostiles.

C’est principalement dans la communauté scientifique américaine que ce thème trouve de l’écho. Une raison évidente en est l’avance certaine que les laboratoires et industries de ce pays possèdent en matière de systèmes robotisés autonomes de sécurité et de défense. Comme nous l’avons indiqué dans des articles précédents, ce secteur constitue pour les Etats-Unis une nouvelle frontière technologique, financée par des budgets militaires très importants. Le lobby militaro-industriel s’y investit dorénavant tout autant qu’il l’avait fait précédemment dans l’aviation de combat, les missiles et les satellites. On peut donc en parler non comme d’objets futuristes mais comme de réalités pénétrant de plus en plus profondément la vie quotidienne. Or beaucoup de drones robotisés militaires paraissent aujourd’hui sur le point d’échapper aux contrôles des humains, du fait de leur complexité. Dans un premier temps, ils multiplieront alors les «dégâts collatéraux».

Mais la peur d’une guerre possible avec les machines intelligentes traduit aussi, diront certains, l’angoisse d’une civilisation tout entière qui croit voir s’effondrer ou se retourner contre elle ce sur quoi elle pensait assurer son empire : le libéralisme, la concurrence, la banque…La technologie de pointe, loin de demeurer un recours, ne va-t-elle pas à son tour devenir un ennemi de l’intérieur ?

Quoi qu’il en soit, il est bon que ceux qui s’intéressent à l’avenir de l’IA, pas seulement aux Etats-Unis, mais aussi en Europe ou dans d’autres grands pays, réfléchissent à ce que pourra produire dans un proche avenir l’interaction entre les machines intelligentes et les humains, y compris ceux considérés comme des criminels ou des terroristes. Pour nous, il s’agit d’un thème essentiel. Nous avons indiqué dans divers articles précédents qu’il s’inscrit dans la réflexion sur le concept de système anthropotechnique. Ce concept ne distingue plus l’humain de la technologie mais étudie de façon globale le produit de leur symbiose. Dans le cadre des liens « durs » entre humains et entités artificielles, celles-ci devenant de plus en plus autonomes et capables de formes de conscience surpassant souvent celles des humains « traditionnels », il faut s’attendre à voir se développer des êtres mixtes, tenant à la fois du post-humain et de la machine intelligente, dont l’impact sur l’évolution de la vie terrestre ne devrait pas être sous-estimé. Mais dans de tels systèmes, convient-il d’envisager des conflits internes entre les composants biologiques et les composants artificiels, plutôt que la réalisation de synergies prometteuses ?

Le point de vue de l’AAAI

Les 25 chercheurs, roboticiens, enseignants et juristes qui viennent de se réunir sous les auspices de l’Association for the Advancement of Artificial Intelligence (AAAI) à Menlo Park, Californie, n’ont pas tranché cette question. Ils se sont surtout efforcés de faire le point sur les progrès récents enregistrés dans le domaine des systèmes capables de générer des consciences artificielles, sans donner à ce dernier terme de définitions trop précises. Les applications les plus apparemment inoffensives, dans le domaine de l’assistance aux activités ménagères ou aux soins, comme dans celui de la navigation dans des environnements complexes, ont été les plus discutées.

Mais les participants n’ont pas dissimulé le fait que, grâce à des progrès décrits comme accélérés et convergents, les machines prendront de prendront de plus en plus d’initiatives propres, dont certaines, par la négligence des humains utilisateurs, pourront se retourner contre ces derniers. Quelles conséquences sociales, favorables ou inquiétantes, faudra-t-il en attendre ?

Le groupe présidé par Eric Horvitz, président de l’AAAI et chercheur émérite chez Microsoft Research, a commencé par travailler en petites équipes distribuées, puis pour un week end à Asilomar (Californie). Les conclusions finales viennent d’être présentées le 15 juillet à l’International Joint Conference for Artificial Intelligence (IJCAI) à Pasadena, Californie,

Si tous les participants s’accordent pour penser que des systèmes intelligents conscients, aux capacités supérieures à celles des hommes, apparaîtront un jour, le délai à prévoir varie selon les estimations, de 20 à 1.000 ans…ce qui parait long au regard des prévisions faites les années précédentes. Le concept de « singularité », bien connu des spécialistes de l’IA, désignant un emballement subi des performances des « smart machines » lequel entraînerait des développements aujourd’hui par définition imprévisibles, a laissé les participants sceptiques. Ceci tient au fait qu’aucune IA ne vise encore à réaliser une intelligence générale analogue à celle des humains. Les objectifs se limitent à l’amélioration de créneaux spécifiques où, il est vrai, les performances des machines dépassent déjà celles des organes sensoriels et moteurs d’origine biologique.

Beaucoup plus évoqués pour le court terme ont été les risques venant de logiciels ou produits malveillants (malware) simulant les comportements des humains au sein des réseaux : vol d’identités, implantation de virus sur les téléphones portables qui imiteraient à leur insu la voix et les comportements des légitimes utilisateurs tout en donnant accès à leurs codes sécurisés. Ces virus pourraient agir à cette fin de façon autonome, sans être guidés en permanence par des acteurs humains malveillants. Si les criminels peuvent réaliser de tels virus, ils le feront, et rapidement, a annoncé Tom Mitchell de la Carnegie Mellon University à Pittsburgh, Pennsylvanie, en faisant allusion aux gros investissements de recherche que réalisent déjà en ce but les syndicats du crime organisé.

Les chercheurs ont convenu que la complexité des smart-phones est devenue telle qu’ils hébergent des milliers de lignes de code susceptibles d’être détournés par des malveillants sans que personne ne s’en aperçoive avant que le dommage ne soit accompli. Peter Szolovits, du Massachusetts Institute of Technology, considère que les ingénieurs sont en train de créer des systèmes si complexes et opaques qu’eux-mêmes n’y comprennent plus rien. Il serait de leur responsabilité d’y réfléchir, afin d’éviter les risques ainsi évoqués. Ceux-ci sont bien plus réels que celui de voir l’Internet devenir conscient et malveillant, comme certains l’avaient prédit les années précédentes.

Pour en savoir plus
* voir l’article du NY Times " Scientists Worry Machines May Outsmart Man "
* A étudier en détail : International Joint Conference for Artificial Intelligence :
http://ijcai-09.org/

Retour au sommaire