Au commencement était l’algorithme

2 Comments

L’avènement du big data engendre un emballement intellectuel, au point de faire perdre tout esprit critique. Comment se fait-il qu’un tel élément se trouve ainsi paré de pratiquement toutes les vertus ? Il relancerait l’économie, améliorerait la vie quotidienne (dans les villes et aux champs), permettrait de prendre de meilleures décisions, etc. Comment expliquer cette fascination, cette attente d’un gouvernement des algorithmes qui confine à l’abdication de l’intelligence ?

Source

Vous estimez ces propos excessifs ? Consultez donc l’article écrit récemment par Henri Verdier, directeur d’Etalab (service du premier ministre chargé de l’ouverture des données publiques). Vibrant plaidoyer en faveur du big data et du gouvernement des algorithmes, c’est en fait un article spécieux, reposant sur une rhétorique éculée la faisant donc paraître pitoyable, utilisant des arguments faux ou pour le moins partiels et qui ne traite pas la question fondamentale à partir de laquelle on peut évoquer correctement le big data.

I Une rhétorique éculée et donc pitoyable

Les titres et sous-titres accrocheurs sont de bons éléments pour attirer l’attention du lecteur, mais ils ne suffisent pas à bâtir un article. Encore faut-il qu’ils soient en rapport avec le sujet traité. Or, si on reprend au commencement, posons nous la question de savoir ce qu’est un algorithme. Un algorithme est une suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème. Des algorithmes peuvent-ils gouverner ? Non, bien sûr, mais les personnes qui les écrivent (ou les commandent) oui. La perversion du vocabulaire est flagrante. Le terme algorithme a un aspect plus sérieux, plus rationnel que celui de machine. Personne ne voudrait être gouverné par des machines. Mais par des algorithmes, pourquoi pas ? Leur côté pensé, réfléchi, rassure.
Ensuite, le grand classique : repousser avec la même force ce qui est présenté comme extrême. Les tenants du machinisme à tout crin d’un côté, les rétrogrades évoquant 1984 à tort et à travers de l’autre. Et au milieu, ce n’est pas une rivière qui coule, mais le tenant de la solution juste, raisonnée, bref, le défenseur du juste milieu. Plaudite cives !
Puis poser une question effrayante (la fin du politique ?) et y apporter des réponses sensées, propres à rassurer : poser le débat démocratique, pour une véritable élaboration politique (ce qui signifie qu’il y en a des fausses).
Enfin, rassurer une dernière fois afin de ne pas donner l’impression que l’article a été écrit, non pour ouvrir le débat, mais pour en exclure les « extrêmes », permettant ainsi aux seuls tenants de la raison de débattre entre eux : Ce ne sont que quelques premières pistes, nous en inventerons d’autres. Mais c’est bien dans ces directions qu’il nous faudra travailler si nous voulons apprendre à vivre dans ce monde naissant. Le début de cette citation me fait penser à Don Patillo : Seigneur, ce ne sont que quelques pâtes…

II Un argumentaire partiel ou faux

Morceau choisi : les datasciences entrent concrètement dans nos existences : capacité à nous proposer les livres ou les destinations qui nous intéressent, big data appliqué à la lutte contre la fraude fiscale, optimisation des patrouilles de police par le logiciel Predpol, choix de la meilleure distribution des équipements publics dans une ville, smarts cities, allocation des ressources douanières, assistance informatique à la décision du chirurgien ou du juge des libertés, calcul du prix de notre billet d’avion, recours au A/B testing pour choisir la meilleure manière de nous adresser un courrier de relance. Humm.. Permettez-moi quelques remarques :

  1. jusqu’à présent, aucun livre m’ayant été proposé automatiquement ne m’a séduit au point de l’acheter. Je reconnais cependant être un peu original
  2. La lutte contre la fraude fiscale (comme toute lutte contre le crime d’ailleurs) n’a nullement besoin de big data pour être efficace, simplement d’une volonté politique. Question simple : combien de temps une personne atteinte de phobie administrative peut-elle tenir sans payer ses impôts ? Pour l’instant, nul besoin de recourir à des données massives pour que les impôts envoient une lettre de relance comminatoire menaçant de majorer le montant dû de 10%…

  3. Assistance informatique au juge des libertés ? Il faudrait détailler un peu, car jusqu’à présent, leur modèle mathématique est assez simple, comme me le faisait remarquer un ami grec : aucune continuité entre l’action des forces de l’ordre et celle des magistrats en France. Au point que certains juges des libertés, anciennement nommés juges de la liberté et de la détention, étaient surnommés juges de la liberté et de la liberté. Là aussi, nul besoin de big data pour prendre le contre-pied de ce qui a été proposé.

  4. La question du gouvernement des algorithmes sera centrale dans la décennie à venir. Quelle dose de gouvernement accepterons-nous de confier aux algorithmes ? Alors là, vous retardez : radars automatiques, transfert automatique des données personnelles vers l’Empire quand on prend l’avion, la loi s’applique de plus en plus automatiquement sans que nous ayons notre mot à dire.
  5. Les voitures de plus en plus intelligentes que nous proposent les constructeurs (…) ne remplacent pas le conducteur, elles l’enserrent et le nourrissent d’information. Sur un autre sujet que j’ai travaillé autrefois, la bioéthique, les pratiques sociales autour du diagnostic prénatal et de la fécondation in vitro ne ressemblent pas aux craintes exprimées par les inquiets des années quatre-vingt. Les patients, la loi et la société ont su mettre en place un cadre acceptable et respectueux. Enserré et nourri, comme cela ressemble à la définition du gavage… Quant au patient du diagnostic prénatal, j’ai des doutes sur son identification.

III L’évitement de la question fondamentale à propos du big data

Évoquer un gouvernement des algorithmes revient donc à envisager de laisser le pouvoir à des suites d’instructions… Mais qui les écrirait, qui contrôlerait leur cohérence, leur innocuité pour l’être humain, leur adaptation au bien commun ? Aucune réponse n’est fournie. Comme si les algorithmes avaient une vertu par eux-mêmes, celle de pouvoir diriger l’humanité de manière harmonieuse et conforme à ses intérêts.
Encore une fois, la question centrale de la propriété des données personnelles est escamotée. Reposons la donc de nouveau : à qui appartiennent les données émises par une personne, quel que soit leur mode d’émission ? A la personne, à l’éditeur du logiciel, à celui qui les collecte, au propriétaire du data-center ?
Tant qu’une réponse claire ne sera pas apportée à cette question, le doute et l’insécurité subsisteront. Et ce n’est pas souhaitable, car cela entretiendra un état de crise permanent.
Zundel avait raison lorsqu’il écrivait, il y a de cela bientôt 80 ans : L’humanité est en péril de mort parce que tous les problèmes – pédagogiques, économiques, sociaux, politiques – sont posés dans l’abstrait, en l’ignorance systématique de la question qui les éclairerait tous : qu’est-ce que l’homme ?

2 Reply to “Au commencement était l’algorithme”

  1. On peut appliquer une partie des mêmes critiques à la déclaration du directeur général du NCA anglais que l’on trouve à l’adresse suivante : https://www.theguardian.com/uk-news/2014/oct/06/digital-freedoms-terrorism-crime-uk
    Parler de libertés numériques revient à les dissocier des libertés du monde réel, donc de la liberté. Ce qui peut, au moins, se discuter.
    L’argument repoussoir étant le développement de la pédophilie et l’augmentation de la vente d’héroïne afghane dans les rues.
    Et on évite la question fondamentale, car ce faisant les Anglais n’abandonneraient pas seulement des libertés numériques pour lutter contre le terrorisme, ils abandonneraient des libertés tout court.Les Anglais n’abandonneraient pas seulement des libertés numériques pour lutter contre le terrorisme, ils abandonneraient des libertés tout court.

    Blog : effectivement. Se seraient-ils passé le mot ?

  2. Toujours dans le domaine du gouvernement par les algorithmes, un article de Luke Dormehl, traduit en français et à lire : https://www.theguardian.com/uk-news/2014/oct/06/digital-freedoms-terrorism-crime-uk
    Sa conclusion est pertinente : « Quand un seul individu fait explicitement une erreur de jugement, il ne peut jamais affecter qu’un nombre fini de personnes. Un algorithme, quant à lui, a le potentiel d’influer sur un nombre de vies exponentiellement plus grand. »

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

× one = four