Editorial.
La domination par les algorithmes. Mythe ou réalité?
Jean-Paul Baquiast , Christophe
Jacquemin, 21/09/2016
Depuis quelques temps, de nombreux articles
ou exposés dénoncent le poids politique pris
par ce qu'ils appellent les algorithmes. Le terme est compris
généralement comme désignant des programmes
informatiques incompréhensibles, ayant pris possession
du monde des Big Data. Celles-ci sont des informations concernant
principalement les humains et leurs activités et
recueillies en grand nombre auprès de nous par les
grands de l'internet américain, dits GAFA ( ou Géants
du Web, Google, Apple, Facebook, Amazon ) . Nous sommes
tous demandeurs des facilités diverses qu'ils offrent
à l'internaute, ceci apparemment quasi gratuitement.
Mais les Big Data ne sont rien sans les
algorithmes programmés pour en tirer des informations
d'un grand intérêt politique et économique,
information que bien évidemment les GAFA gardent
pour eux afin de s'en servir pour conquérir le monde
de demain , comme Google on le sait ne se cache absolument
pas de rechercher. Il est évident que les algorithmes
n'ont pas de pouvoirs de décision propres. Ils sont
mis en oeuvre et alimentés par les GAFA et homologues
qui s'en servent pour construire une société
numérique globale – on parle aussi de cerveau
global – leur permettant d'analyser, prévoir
et exploiter à leur profit toutes les activités
résultant des activités numériques
des internautes.
Ces GAFA ne sont pas désintéressés.
Ils servent la petite poignée de dirigeants qui en
ont fait des prestataires de service conçus pour
répondre au mieux à leurs objectifs de domination.
Ils servent aussi d'intermédiaires au gouvernement
américain qui les a encouragés voir financés
initialement pour espionner massivement les entreprises,
administrations et citoyens obligés en l'absence
d'autres solutions de faire appel aux services des GAFA.
Il est certain cependant que dans le monde
hyper-complexe de l'algorithmique moderne se nourrissant
de Big Data, certains algorithmes semblent occasionnellement
échapper à leurs concepteurs et opérateurs
pour se comporter de façon autonome. Ceci avait été
signalé à propos des algorithmes responsables
de la spéculation financière à haute
fréquence (high frequency trading) qui peuvent en
quelques secondes et de leur propre chef prendre des décisions
de vente et d'achat se traduisant par des bénéfices
ou des pertes que personne ne cherchait. Mais si les algorithmes
permettant de telles décisions existent, ce n'est
pas parce qu'ils sont nés spontanément. Leur
existence et leurs activités sont prévues
et encouragées par les spéculateurs humains
et les gouvernements dont ils dépendent, afin d'accroitre
globalement les pouvoirs de ces derniers.
Dénoncer une quelconque prise de
pouvoir ou domination par les algorithmes relève
donc du mensonge pur et simple. En bonne démocratie,
ce devrait être les forces politiques et économiques
qui les utilisent qu'il conviendrait de dénoncer.
Plus concrètement, il faudrait accuser les GAFA et
le gouvernement américain qui se servent des algorithmes
pour mettre à leur service les acteurs de la nouvelle
société numérique s'étendant
aujourd'hui à l'échelle du monde. Nous avons
précédemment montré comment la NSA,
National Security Agency, la CIA et le FBI aux Etats-Unis,
utilisent et souvent financent les GAFA.
Les algorithmes se présentent sous la forme de modèles
mathématiques – une fois encore difficilement
compréhensibles, même par des mathématiciens.
Ils prennent désormais en permanence toutes les décisions
relatives à la vie de chacun dans la société
numérique, qu'acheter, où habiter, où
voyager, comment et à quels tarifs s'assurer. Leur
caractère apparemment objectif, du fait de leur formulation
mathématique, rassure. Chacun devrait être
traité selon les mêmes règles.
Armes de destruction
mathématique.
Ce
n'est pas le cas. C'est ce que vient de montrer dans un
livre important « Weapons of Math Destruction:
How Big Data Increases Inequality and Threatens Democracy ».
Cathy O'Neil est elle-même mathématicienne
et ancienne trader à Wall Street. Inutile de préciser
que le terme de Math Destruction, destruction d'ordre mathématique,
fait allusion au terme de « destruction massive ».
Pour elle les algorithmes sont opaques, non régulés
démocratiquement et non contestables, même
lorsqu'ils s'avèrent faux. Cathy O'Neil en appelle
à la responsabilité des mathématiciens
qui conçoivent ces modèles et aux décideurs
qui les utilisent. Ils doivent travailler pour que les algorithmes
soient transparents, discutables en termes politiques, facilement
modifiables afin de les rendre plus conformes aux réalités
et besoins de la société dans son ensemble.
L'objectif qu'elle propose est certes très
souhaitable. Mais Cathy O'Neil, involontairement ou sciemment,
ne fait pas assez remarquer que les concepteurs des algorithmes
dont elle constate les effets destructifs ne sont pas animés
par l'objectif d'améliorer le fonctionnement de la
société dans son ensemble. Moins encore par
celui de redonner de l'influence et du pouvoir au 95% des
populations qui les subissent. Ils sont au service des 5%
de dominants, afin d'accroitre encore leurs profits et leurs
pouvoirs. Il en est de même des GAFA de toutes sortes
qui se multiplient. A travers les données que leur
confient innocemment leurs utilisateurs et les algorithmes
qu'ils emploient pour les interpréter, ils prennent
des décisions visant à servir les intérêts
des super-dominants.
Les exemples de ceci sont nombreux, encore qu'il faille
un oeil particulièrement informé techniquement
pour s'en rendre compte en détail. On peut mentionner
ainsi la façon dont Facebook censure ou promeut les
messages et les images selon les intérêts des
dominants. Les prétextes annoncés sont généralement
tout à fait honorables, mais en y regardant mieux
on peut entrevoir les liaisons étroites des GAFA
avec la volonté de conquête de l'Empire américain.
On dira que les GAFA ont délocalisé leurs
fonctions d'évaluation au profit de milliers de « modérateurs »
travaillant généralement pour des entreprises
du Moyen Orient ou d'Asie du sud-est. Ceci devrait garantir
une certaine impartialité de la part de ces modérateurs,
du fait notamment qu'ils ne peuvent pas tous être
obligés d'appliquer en détail d'éventuels
mots d'ordre de censure. Mais il faut savoir que les propositions
de décision émanant de ces modérateurs
sont soumises à un algorithme central adéquat
qui commande la décision finale.
Ces algorithmes sont pas nature incapables
de percevoir les nuances ironiques, sarcastiques ou culturelles
d'une expression. Par contre, ils sont très capables
de prendre avec la plus grande brutalité des décisions
répondant à des objectifs simples fixés
par les pouvoirs. Comme nous l'avons indiqué cependant,
en citant notamment Alain Cardon, la complexité et
l'intrication des algorithmes permettra de plus en plus
à beaucoup d'entre eux de prendre seuls des décisions
politiquement importantes, de censure ou de promotion. La
décision une fois prise, il s'avère pratiquement
impossible de l'annuler, ceci notamment pour des administrations
de régulation ou des tribunaux.
Par contre, ce que ne peuvent pas faire
ces gardiens de l'ordre public et de la démocratie,
les pouvoirs économiques et politiques de ceux qui
ont mis en place ou toléré les algorithmes
reste pratiquement inchangé. Il est toujours possible
pour eux de « débrancher »
l'algorithme, aussi autonome qu'il soit. La même constatation
devra être faite dans l'avenir à propos des
robots autonomes. Si les résultats de leur autonomie
déplait aux maîtres du monde, ils seront rapidement
débranchés.
Cathy O'Neil a fait un travail très
important, en montrant sans faire appel à des concepts
mathématiques la façon dont les algorithmes
régentent dorénavant nos vies. De même,
elle montre bien comment dans l'ensemble ils sont au service
du profit financier maximum des entreprises qui y ont recours
ou des GAFA qui fournissent les données des informations
dont ils se nourrissent.
Mais ni elle ni les bons esprits qui dénoncent
de plus en plus le pouvoir des algorithmes ne proposent
la véritable révolution politique qui serait
nécessaire pour redonner à la majorité
des citoyens la possibilité de reprendre le pouvoir
dans la société numérique. Certains
fondent des espoirs dans la conception de nouveaux logiciels
et de nouveaux processus informationnels qui seraient plus
transparents et plus contrôlables. Mais on ne voit
pas clairement comment ceux-ci pourront échapper
à la prise en main par de nouveaux pouvoirs, ou plus
simplement à la récupération par les
pouvoirs actuels. Beaucoup en concluront que démocratiser
les algorithmes sera définitivement impossible, et
qu'il faudra se résigner.
Automates
Intelligents s'enrichit du