Intelligence abusée

No Comments

L’Intelligence Artificielle (IA) est l’avenir de l’humanité, c’est une évidence pour certains. Pour d’autres dont je fais partie, il faut se garder des mirages de la technique et critiquer ses progrès. Ce qui ne signifie pas être anti technique, mais en toute chose, y compris en informatique, il faut savoir raison garder.

De récents articles sur les progrès de l’IA en matière juridique nous le rappellent.

Source

Ainsi donc, le Huffington Post (puisque c’est de ce journal qu’il s’agit) se demande si le Big Data n’est pas plus efficace que le policier de proximité et plus juste que le jury populaire. Si, si, c’est à lire ici.

Le point de départ est une bonne intention. Les erreurs judiciaires sont insupportables. C’est vrai;

Puis, viennent les chiffres, tant il est vrai que parler de Big Data impose le recours aux chiffres. La police de Memphis attribue au système une baisse de 31% de la criminalité. Génial. Mais deux remarques cependant pour ne pas sombrer dans l’angélisme :

  1. pourquoi seulement 31% et pas plus ? Le système aurait-il des limites ?
  2. l’auteur de l’article est-il sûr que les délinquants n’ont pas, tout simplement, changé de territoire pour poursuivre leurs affaires ailleurs ?

Il serait utile, avant d’encenser tous les logiciels de prédiction du crime, de mener une étude sur un territoire plus large, et de voir pour quelles raisons la baisse est contenue. Erreur de méthode donc. Retour aux études ?

Ensuite, cela se gâte sérieusement : Le système judiciaire doit donc fixer au préalable le curseur entre recherche de la vérité et respect des droits fondamentaux (…). Aïe, aïe, aïe ! Cela peut être interprété comme une autorisation de fouler aux pieds les droits fondamentaux dans  la recherche de la vérité. Pour quoi pas ? Abou graïb, Guantanamo ne seraient donc pas des erreurs ?

La BBC se pose une question du même ordre dans un autre article. The AI predicted the verdicts to an accuracy of 79%, according to the scientists involved. Pas mal pour une intelligence artificielle, mais on peut rétorquer que l’intelligence humaine en a trouvé 100%. Et surtout, quelle importance de prédire des décisions de justice ? Pour savoir s’il faut ester ou non ? Mais il suffit qu’une partie le décide, et l’autre se trouve contrainte par son choix…

Et je n’ai toujours pas de réponse à une question que je me pose de temps en temps : comment une IA peut-elle anticiper un revirement de jurisprudence ?

Categories: protection Étiquettes : , ,

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *