Si l’on se concentre sur les qualités des algorithmes, il est alors tentant de vouloir en faire des auxiliaires du pouvoir. Preuve de leur pouvoir (?), certains algorithmes pourraient remplacer les « nègres ». C’est aller vite en besogne et oublier que les discours politiques sont d’une indigence telle qu’une inintelligence, même artificielle, peut les imiter.

source.

Cependant, certains n’oublient pas que les algorithmes ont aussi des limites (un algorithme réputé personnalisé n’est-il pas un miroir déformant ?) :

• Today’s fastest systems become too slow when they try to understand the complexity of an individual on their own terms. Simultaneously, even the most advanced machine-learning solutions haven’t yet provided a way for computers to seamlessly learn from us and adapt to us.
• Whose interests and preferences are prioritized when deciding what you can see and do? You might not be interested in ads, but they are shown to you nevertheless.
• Your actions are simplified to fit the environment’s limited feedback loops.

Des pistes de réflexion sont cependant déjà élaborées pour remédier à ces limites

• Personalization needs a new user interface paradigm and interaction model.
• The new interface for personalization puts “my-time” above real-time.

Parfois, certains utilisateurs forcenés d’algorithmes se laissent aller à des déclarations qu’assez peu de personnes finalement, relèvent. Ainsi du PDG d’Uber : Travis Kalanick, le PDG de Uber, s’est souvent défendu du fait que Uber n’était pas le patron de ses chauffeurs : l’algorithme d’Uber est le vrai patron des chauffeurs. (…) les robots ne sont pas tant en train de voler votre travail, que de devenir votre patron. Et les niveaux de contrôle et de surveillance qu’ils exercent sont souvent plus importants que ceux exercés par des managers humains (…)
Poursuivons : Pour les chercheurs, le logiciel de Uber n’est pas passif, mais manipule l’offre de travail et façonne complètement le marché, avec les mêmes critères qu’un management traditionnel. Une relation asymétrique qui profite à l’entreprise et au client, expliquent-ils en détaillant les fonctionnalités du logiciel de la société de location de voiture avec chauffeurs à la demande. En fait, si l’algorithme est le nouveau directeur des ressources humaines, les clients sont les cadres intermédiaires chargés de surveiller les chauffeurs, réalisant une externalisation inédite du management.
Des biais ? L’évaluation mutuelle cache pourtant bien souvent un réel déséquilibre, souligne Josh Dzieza : il n’y a que celui qui travaille ou qui rend le service qui dépend de la note que lui donnent les clients. Travailleurs et clients sont soumis à des normes de notation différentes. Chez Uber, les chauffeurs sont remerciés quand leur note tombe en dessous de 4,6/5, mais ce n’est jamais le cas des clients. Et si les chauffeurs peuvent refuser des clients mal notés, ils peuvent être remerciés s’ils le font trop souvent.
Et encore : Or dans les organisations traditionnelles, les managers ont un certain degré d’appréciation des réclamations clients et ils ont des obligations légales envers leurs employés. » Uber et consorts fait donc disparaître les cadres intermédiaires. Ne resteront plus que les patrons et les grouillots. (…) le professeur Sachs, estime que le classement des chauffeurs par les clients conduit à des pratiques discriminatoires, c’est-à-dire que la plateforme de Uber fournit un mécanisme pour traduire les biais des clients en décisions discriminatoires.
Nous voyons donc que, dans un secteur de marché bien loin de celui de la finance, déjà dominé par les algorithmes via le trading à haute fréquence, l’homme perd le contrôle sur ce qu’il a créé. Il est indispensable de se demander si ce gouvernement des algorithmes (pas seulement pour les États, mais aussi dans les entreprises) est une bonne chose.

Une fois que la question précédente aura trouvé une réponse, il conviendra de se demander quel sera le pouvoir résiduel des États, s’il y a effectivement dévolution du pouvoir aux algorithmes : Quelle est alors la marge de manœuvre de la puissance publique dans un monde où de plus en plus de décisions sont prises par des programmes informatiques dont la composition est secrète ?
D’où le regain de militance pour les logiciels libres, dont le code est vérifiable par tout le monde : Les acteurs de ce mouvement, celui du logiciel libre, n’ont de cesse de répéter que seul un code informatique ouvert est contrôlable et donc susceptible de respecter les droits de ses utilisateurs. Demain, les voitures autonomes peupleront nos routes, nos maladies seront diagnostiquées par des machines et même nos gouvernements utiliseront des algorithmes pour prendre leurs décisions. Qui pourra s’assurer que ces logiciels respectent les règles du jeu démocratique ?

Nous le remarquons, les débats en cours nous mènent bien loin de ce qu’est un algorithme, la confusion demeurant grande entre ce qu’est un algorithme et sa traduction dans un programme informatique…
En fait, il est ce qui valorise la donnée L’algorithme, c’est là où se situe la valeur réelle. C’est dans les algorithmes que réside l’action. Les données sont muettes. Les algorithmes définissent la façon dont le monde fonctionne » assure le directeur de recherche. Si la première partie de la déclaration est vraie, sa dernière partie illustre bien la fascination que l’algorithme exerce sur certaines personnes.
On peut donc craindre que, dans un mouvement passionné, beaucoup en viennent à abdiquer leur liberté pour la mettre à disposition d’algorithmes de toute sorte.
Il ne reste plus qu’à écrire un nouveau discours de la servitude volontaire…

source.