Europe Solidaire
CultureEconomieEducationEnvironnementInstitutionsInternationalSciencesSécurité/DéfenseSocialTechnologiesValeurs
Aggrandir Réduire Reinitialiser

La domination par les algorithmes. Mythe ou réalité?

Depuis quelques temps, de nombreux articles ou exposés dénoncent le poids politique pris par ce qu'ils appellent les algorithmes. Le terme est compris généralement comme désignant des programmes informatiques incompréhensibles, ayant pris possession du monde des Big Data.
Celles-ci sont des informations concernant principalement les humains et leurs activités et recueillies en grand nombre auprès de nous par les grands de l'internet américain, dits GAFA ( ou Géants du Web, Google, Apple, Facebook, Amazon ) . Nous sommes tous demandeurs des facilités diverses qu'ils offrent à l'internaute, ceci apparemment quasi gratuitement.

Mais les Big Data ne sont rien sans les algorithmes programmés pour en tirer des informations d'un grand intérêt politique et économique, information que bien évidemment les GAFA gardent pour eux afin de s'en servir pour conquérir le monde de demain , comme Google on le sait ne se cache absolument pas de rechercher. Il est évident que les algorithmes n'ont pas de pouvoirs de décision propres. Ils sont mis en oeuvre et alimentés par les GAFA et homologues qui s'en servent pour construire une société numérique globale – on parle aussi de cerveau global – leur permettant d'analyser, prévoir et exploiter à leur profit toutes les activités résultant des activités numériques des internautes.

Ces GAFA ne sont pas désintéressés. Ils servent la petite poignée de dirigeants qui en ont fait des prestataires de service conçus pour répondre au mieux à leurs objectifs de domination. Ils servent aussi d'intermédiaires au gouvernement américain qui les a encouragés voir financés initialement pour espionner massivement les entreprises, administrations et citoyens obligés en l'absence d'autres solutions de faire appel aux services des GAFA.

Il est certain cependant que dans le monde hyper-complexe de l'algorithmique moderne se nourrissant de Big Data, certains algorithmes semblent occasionnellement échapper à leurs concepteurs et opérateurs pour se comporter de façon autonome. Ceci avait été signalé à propos des algorithmes responsables de la spéculation financière à haute fréquence (high frequency trading) qui peuvent en quelques secondes et de leur propre chef prendre des décisions de vente et d'achat se traduisant par des bénéfices ou des pertes que personne ne cherchait. Mais si les algorithmes permettant de telles décisions existent, ce n'est pas parce qu'ils sont nés spontanément. Leur existence et leurs activités sont prévues et encouragées par les spéculateurs humains et les gouvernements dont ils dépendent, afin d'accroitre globalement les pouvoirs de ces derniers.

Dénoncer une quelconque prise de pouvoir ou domination par les algorithmes relève donc du mensonge pur et simple. En bonne démocratie, ce devrait être les forces politiques et économiques qui les utilisent qu'il conviendrait de dénoncer. Plus concrètement, il faudrait accuser les GAFA et le gouvernement américain qui se servent des algorithmes pour mettre à leur service les acteurs de la nouvelle société numérique s'étendant aujourd'hui à l'échelle du monde. Nous avons précédemment montré comment la NSA, National Security Agency, la CIA et le FBI aux Etats-Unis, utilisent et souvent financent les GAFA.

Les algorithmes se présentent sous la forme de modèles mathématiques – une fois encore difficilement compréhensibles, même par des mathématiciens. Ils prennent désormais en permanence toutes les décisions relatives à la vie de chacun dans la société numérique, qu'acheter, où habiter, où voyager, comment et à quels tarifs s'assurer. Leur caractère apparemment objectif, du fait de leur formulation mathématique, rassure. Chacun devrait être traité selon les mêmes règles.

Armes de destruction mathématique.

Ce n'est pas le cas. C'est ce que vient de montrer dans un livre important « Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy ».

Cathy O'Neil est elle-même mathématicienne et ancienne trader à Wall Street. Inutile de préciser que le terme de Math Destruction, destruction d'ordre mathématique, fait allusion au terme de « destruction massive ». Pour elle les algorithmes sont opaques, non régulés démocratiquement et non contestables, même lorsqu'ils s'avèrent faux. Cathy O'Neil en appelle à la responsabilité des mathématiciens qui conçoivent ces modèles et aux décideurs qui les utilisent. Ils doivent travailler pour que les algorithmes soient transparents, discutables en termes politiques, facilement modifiables afin de les rendre plus conformes aux réalités et besoins de la société dans son ensemble.

L'objectif qu'elle propose est certes très souhaitable. Mais Cathy O'Neil, involontairement ou sciemment, ne fait pas assez remarquer que les concepteurs des algorithmes dont elle constate les effets destructifs ne sont pas animés par l'objectif d'améliorer le fonctionnement de la société dans son ensemble. Moins encore par celui de redonner de l'influence et du pouvoir au 95% des populations qui les subissent. Ils sont au service des 5% de dominants, afin d'accroitre encore leurs profits et leurs pouvoirs. Il en est de même des GAFA de toutes sortes qui se multiplient. A travers les données que leur confient innocemment leurs utilisateurs et les algorithmes qu'ils emploient pour les interpréter, ils prennent des décisions visant à servir les intérêts des super-dominants.

Les exemples de ceci sont nombreux, encore qu'il faille un oeil particulièrement informé techniquement pour s'en rendre compte en détail. On peut mentionner ainsi la façon dont Facebook censure ou promeut les messages et les images selon les intérêts des dominants. Les prétextes annoncés sont généralement tout à fait honorables, mais en y regardant mieux on peut entrevoir les liaisons étroites des GAFA avec la volonté de conquête de l'Empire américain.

On dira que les GAFA ont délocalisé leurs fonctions d'évaluation au profit de milliers de « modérateurs » travaillant généralement pour des entreprises du Moyen Orient ou d'Asie du sud-est. Ceci devrait garantir une certaine impartialité de la part de ces modérateurs, du fait notamment qu'ils ne peuvent pas tous être obligés d'appliquer en détail d'éventuels mots d'ordre de censure. Mais il faut savoir que les propositions de décision émanant de ces modérateurs sont soumises à un algorithme central adéquat qui commande la décision finale.

Ces algorithmes sont pas nature incapables de percevoir les nuances ironiques, sarcastiques ou culturelles d'une expression. Par contre, ils sont très capables de prendre avec la plus grande brutalité des décisions répondant à des objectifs simples fixés par les pouvoirs. Comme nous l'avons indiqué cependant, en citant notamment Alain Cardon, la complexité et l'intrication des algorithmes permettra de plus en plus à beaucoup d'entre eux de prendre seuls des décisions politiquement importantes, de censure ou de promotion. La décision une fois prise, il s'avère pratiquement impossible de l'annuler, ceci notamment pour des administrations de régulation ou des tribunaux.

Par contre, ce que ne peuvent pas faire ces gardiens de l'ordre public et de la démocratie, les pouvoirs économiques et politiques de ceux qui ont mis en place ou toléré les algorithmes reste pratiquement inchangé. Il est toujours possible pour eux de « débrancher » l'algorithme, aussi autonome qu'il soit. La même constatation devra être faite dans l'avenir à propos des robots autonomes. Si les résultats de leur autonomie déplait aux maîtres du monde, ils seront rapidement débranchés.

Cathy O'Neil a fait un travail très important, en montrant sans faire appel à des concepts mathématiques la façon dont les algorithmes régentent dorénavant nos vies. De même, elle montre bien comment dans l'ensemble ils sont au service du profit financier maximum des entreprises qui y ont recours ou des GAFA qui fournissent les données des informations dont ils se nourrissent.

Mais ni elle ni les bons esprits qui dénoncent de plus en plus le pouvoir des algorithmes ne proposent la véritable révolution politique qui serait nécessaire pour redonner à la majorité des citoyens la possibilité de reprendre le pouvoir dans la société numérique. Certains fondent des espoirs dans la conception de nouveaux logiciels et de nouveaux processus informationnels qui seraient plus transparents et plus contrôlables. Mais on ne voit pas clairement comment ceux-ci pourront échapper à la prise en main par de nouveaux pouvoirs, ou plus simplement à la récupération par les pouvoirs actuels. Beaucoup en concluront que démocratiser les algorithmes sera définitivement impossible, et qu'il faudra se résigner.

21/09/2016

A LIRE AUSSI
Les articles du même type
Europe Solidaire