La victoire! Le tribunal ordonne aux prisons de l’AC de libérer les candidats à la libération conditionnelle

Dans une victoire pour la transparence, un juge d'un tribunal d'État a ordonné au Département californien des services correctionnels et de la réhabilitation (CDCR) de divulguer les dossiers concernant la race et l'origine ethnique des candidats à la libération conditionnelle. C'est aussi une victoire pour l'innovation, car les plaignants utiliseront ces données pour construire de nouvelles technologies au service de la réforme de la justice pénale et de la justice raciale.

Dans Voss v. CDCR , l'EFF représentait une équipe de chercheurs (connu sous le nom de Projet Recon) de l'Université de Stanford et de l'Université de l'Oregon qui tentent d'étudier les déterminations de l'admissibilité à la libération conditionnelle en Californie à l'aide de modèles d'apprentissage automatique. Cela implique l'utilisation de l'automatisation pour examiner plus de 50 000 transcriptions d'audience de libération conditionnelle et identifier divers facteurs qui influencent les décisions de libération conditionnelle. Le but ultime du projet Recon est de développer un outil d'intelligence artificielle capable d'identifier les refus de libération conditionnelle susceptibles d'avoir été influencés par des facteurs inappropriés en tant que candidats potentiels à un réexamen. Les travaux du projet Recon doivent tenir compte de nombreuses variables, notamment la race et l'origine ethnique des personnes qui ont comparu devant la commission des libérations conditionnelles.

Le projet Recon est un exemple prometteur de la façon dont l'IA pourrait être utilisée pour identifier et corriger les préjugés raciaux dans notre système de justice pénale.

En septembre 2018, Project Recon a demandé au CDCR des informations sur la race et l'origine ethnique des candidats à la libération conditionnelle. CDCR a rejeté la demande, affirmant que l'information n'était pas soumise à la California Public Records Act (CPRA). Au lieu de cela, le CDCR a guidé les chercheurs tout au long de son processus d'examen discrétionnaire de la recherche, où ils sont restés dans l'incertitude pendant près d'un an. En fin de compte, le chef de la commission des libérations conditionnelles a refusé de soutenir la demande de l'équipe parce que l'un de ses membres avait déjà publié une étude critique du processus de libération conditionnelle en Californie.

En juin 2020, l'EFF a déposé une poursuite au nom de Project Recon, alléguant que la CDCR avait enfreint la CPRA et le premier amendement. Peu de temps après, notre affaire a été consolidée par une affaire similaire, Brodheim c. CDCR . Nous avons demandé un bref de mandat ordonnant au CDCR de divulguer les données sur la race.

Dans son opposition , la CDCR a affirmé qu'elle protégeait la vie privée des personnes incarcérées et que les données sur la race constituaient des «informations sur le casier judiciaire des délinquants» et étaient donc exemptes de divulgation. L'EFF a souligné que l'intérêt public à la divulgation est élevé – d'autant plus que les disparités raciales dans le système de justice pénale sont un sujet de conversation national – et que l'intérêt public à la non-divulgation ne l'emporte donc pas. L'EFF a également fait valoir que les données sur la race ne pouvaient pas constituer des «informations sur le casier judiciaire des délinquants» puisque la race n'a rien à voir avec le casier judiciaire de quelqu'un, mais plutôt des informations démographiques.

Le tribunal a accepté . Il a estimé que le public avait un grand intérêt public à divulguer les données sur la race et l'origine ethnique des candidats à la libération conditionnelle:

[L] e cas implique indiscutablement un intérêt public majeur dans la divulgation, c'est-à-dire pour faire la lumière sur le fait que le processus de libération conditionnelle est infecté par des préjugés raciaux ou ethniques. L'importance de cet intérêt public est vivement mise en évidence par la focalisation nationale actuelle sur le rôle de la race dans le système de justice pénale et dans la société américaine en général. . . . La divulgation garantit que l'activité gouvernementale est ouverte à l'œil attentif du public.

En conséquence, le tribunal a ordonné au CDCR de produire les documents demandés. La semaine dernière, le CDCR a refusé de faire appel de la décision du tribunal et a produit les dossiers.

En plus d'être une victoire pour la transparence et le gouvernement ouvert, cette affaire est également importante pour la justice raciale. Comme nous l'avons identifié dans notre exposé, la CDCR a des antécédents de préjugés raciaux, que la Cour suprême des États-Unis et les cours d'appel de Californie ont reconnues. Cela rend d'autant plus important que l'information sur les disparités raciales potentielles dans les décisions de libération conditionnelle soit ouverte au public pour analyse et débat.

De plus, cette affaire est une victoire pour l'innovation bénéfique de l'IA. Dans un monde où l' IA est souvent proposée pour des utilisations nuisibles et biaisées , Project Recon est un exemple d'IA pour de bon. Plutôt que de se substituer à la prise de décision humaine, l'IA que Project Recon tente de construire jetterait un éclairage sur la prise de décision humaine en examinant les décisions passées et en identifiant où les préjugés ont pu jouer un rôle. Cette utilisation innovante de la technologie pour identifier les préjugés systémiques, y compris les disparités raciales, est le type d'utilisation de l'IA que nous devrions soutenir et encourager.