Parce que l’intelligence artificielle n’est peut-être pas la réponse à tous les problèmes…
En 2012, le service de police de la ville de Chicago ou Chicago Police Department est entré en collaboration avec la société RAND Corporation et l’Illinois Institute of Technology. L’objectif du trio était d’établir de manière automatique et centralisée un score « de risque » pour toutes les personnages interpellées par les policiers. Le système de calcul et de gestion de ce score était baptisé TRAP pour Targeted Repeat-Offender Apprehension Program ou programme ciblé d’appréhension des récidivistes : ainsi, chaque détenu se voyait attribuer une espèce de niveau de dangerosité qui devait permettre de ficher les personnes les plus dangereuses.
Chicago just shut down a “predictive" policing experiment that started in 2012. This report about has a bunch of alarming details about it, including info other cities have kept secret about their similar programs: https://t.co/PmXCcgbcbh
— Shakeer Rahman (@srahrman) January 23, 2020
L’objectif affiché du système TRAP était bien sûr d’éviter la récidive en partant du principe qu’il était possible d’évaluer la propension que peut avoir un individu à contrevenir à la loi en fonction de son environnement, de son éducation, de sa situation personnelle ou bien encore des actes répréhensibles qu’il a commis par le passé. Des critères qui font froid dans le dos et ne sont pas sans rappeler le roman de Philip K. Dick adapté au cinéma par Steven Spielberg – Minority Report – dans lequel des mutants étaient employés afin de repérer des crimes avant même que leurs auteurs n’aient l’idée de les commettre.
À Chicago, l’expérimentation aura duré huit ans avant que le service de police ne décide d’y mettre un terme. Huit ans durant lesquels, TRAP aura multiplié les erreurs sans parvenir à réduire de quelque manière que ce soit le nombre de crimes enregistrés dans la cité de l’Illinois comme on peut le lire dans le rapport de l’inspecteur général de Chicago. Avocat de son état, Shakeer Rahman a confirmé la fin de l’expérimentation TRAP il y a quelques jours avant de détailler, au travers d’une série de tweets assassins, les multiples problèmes du système. Espérons, sans trop y croire, que ce genre de mésaventures fassent davantage réfléchir les aficionados du tout sécuritaire.
