Conséquences de cette recomposition

Passons sur cette apparente impossibilité, et poussons le raisonnement un peu plus loin. Accepter qu’une telle modélisation soit possible revient alors à reporter la décision vers la machine. Du système expert, aide à la décision, on en vient à un système de décision, dans lequel l’Homme n’est plus que l’exécuteur des (basses) œuvres. Du fait des caractéristiques supposées des machines énoncées précédemment (sans biais, rationnelles, impartiales et totalement indépendantes des passions), il sera difficile à un décideur d’émettre un avis contredisant celui de la machine : « Ces machines nous permettent de reporter la responsabilité des décisions sur des machines. On observe le même phénomène dans les administrations¹. »

Source

La décision ne sera plus seulement suggérée, elle sera effectivement prise par la machine, le décideur n’étant présent que pour donner, dans un premier temps, une apparence humaine aux décisions.

Par la suite, et puisque le souci primordial est la rentabilité et le gain de temps, l’Homme s’effacera totalement devant la machine qui prendra seule les décisions et les assumera. Il deviendra alors logique que cette dernière en porte la responsabilité, faisant passer à la trappe l’Homme. Ce qui explique plusieurs choses :

– que certains militent à cor et à cri pour la responsabilité juridique du robot (car s’il prend des décisions, pourquoi son propriétaire en serait responsable ?), oubliant au passage que si le robot prend de plus en plus de responsabilités, que restera-t-il à l’Homme ?

– qu’un divorce de plus en plus grand s’instaure entre les peuples et leurs représentants, puisque ceux-ci sont de moins en moins attentifs aux demandes de leurs électeurs en mettant en œuvre des systèmes qui sont, par construction, rétifs aux cas particuliers²  et de plus en plus intrusifs  « force est de constater que la radicalité de l’idéal démocratique exigeant, faut-il le rappeler, la soumission du gouvernement au contrôle populaire, ne cesse d’être trahie pour mieux répondre aux appels démagogues de la ‘nécessité’, de l’ ‘urgence’ et de l’ ‘exception’, justifiant l’intensification sans précédent du contrôle exercé par les gouvernements sur les populations, y compris par l’observation multimodale des activités, communications, interactions, préférences, propensions des individus.³ », même si les personnes elles-mêmes fournissent les informations demandées : « Alors que l’exercice du pouvoir se passe de plus en plus de la contrainte directe sur les corps, ce sont les individus eux-mêmes qui doivent s’imposer non seulement le respect mais l’adhésion aux normes, les intégrer dans leur biographie, par leurs propres actions et réitérations. Le pouvoir prend, dans la société moderne, la forme d’offres de services ou d’actions incitatives bien plus que de contrainte. Alors que l’on naissait dans une condition particulière dans la société traditionnelle, on a à présent à faire quelque chose, faire un effort actif pour obtenir les avantages sociaux modernes⁴. »

– que Debord avait, hélas, raison lorsqu’il estimait que nous approchions du stade du spectaculaire intégré dont les caractéristiques sont « le renouvellement technologique incessant ; la fusion économico-étatique ; le secret généralisé ; le faux sans réplique ; un présent perpétuel⁵. »

Unicité de la reconstruction

Pour savoir s’il faut encore ajouter de l’intensité au vertige, il est indispensable de se demander s’il existe une bijection entre une personne et ses traces électroniques, sa projection algorithmique, son identité numérique. Une identité est donnée par des parents à leur enfant en prenant en compte l’unicité de cet enfant. Et si des parents taquins décidaient de donner le même prénom à plusieurs de leurs enfants, il sauraient cependant les différencier pour donner à chacun ce dont il a besoin.

Mais les algorithmes et les machines en sont-elles capables ? Ce n’est pas encore démontré. Les publicités qui apparaissent sur mon ordinateur sans que je les sollicite me sont-elles spécifiquement destinées, ou sont-elles fabriquées à l’intention d’un panel d’internautes dans lequel la machine m’a placé ?

Cette individualisation de la proposition est à étudier plus particulièrement lorsqu’on se penche sur les logiciels de prédiction du crime, nouveau Graal annoncé des forces de sécurité. Il s’avère que ces logiciels construisent généralement un espace-temps criminogène dans lequel l’infraction va (a de fortes probabilités de) se produire. Si une personnedite pudiquement « connue des forces de l’ordre » se promène dans cet espace-temps défini par la machine, alors, quelles que soient ses intentions, elle a de grandes chances d’être arrêtée par la police prédictive qui se félicitera d’avoir ainsi évité un délit. Ce qui, au passage, nous fait toucher du doigt un autre problème de l’algorithme qui est denégliger les intentions d’une personne alors que l’élément intentionnel est indispensable dans l’infraction pénale.

L’existence d’une bijection entre le profil algorithmique et la personne réelle est une question fondamentale. Car si une machine ne peut différencier deux personnes aux comportements similaires, quelle confiance pouvons-nous lui accorder ?

Il paraît étonnant qu’une telle fascination pour la technique ait pu se faire jour. Pourtant, des critiques et mises en garde n’ont cessé d’avoir lieu. Assez proche de nous, Debord avertissait à propos de la transformation de la société : « Le spectacle se présente comme une énorme positivité indiscutable et inaccessible. Il ne dit rien de plus que « ce qui apparaît est bon, ce qui est bon apparaît ». L’attitude qu’il exige par principe est cette acceptation passive qu’il a déjà en fait obtenue par sa manière d’apparaître sans réplique, par son monopole de l’apparence⁶. »

A suivre