Les flics qui analysent des visages fabriqués à partir de l’ADN grâce à la reconnaissance faciale sont une tornade de mauvaises idées

Conformément à la grande tradition des forces de l'ordre consistant à prendre des technologies désuètes, invasives et oppressives, à les rendre numériques, puis à les qualifier d'innovation , la police américaine a récemment combiné deux technologies dystopiques existantes d'une toute nouvelle manière pour violer les libertés civiles. Une force de police californienne a récemment utilisé une nouvelle pratique consistant à prélever un échantillon d'ADN sur une scène de crime, en le faisant passer par un service fourni par la société américaine Parabon NanoLabs qui devine à quoi ressemblait le visage des auteurs, et en connectant cette image rendue à un logiciel de reconnaissance faciale pour dresser une liste de suspects.

Certaines parties de ce processus ne sont pas entièrement nouvelles . Il a été constaté à plusieurs reprises que les forces de police avaient introduit des images de célébrités dans un logiciel de reconnaissance faciale afin de générer des listes de suspects. Dans un cas datant de 2017, la police de New York a décidé que son suspect ressemblait à Woody Harrelson et a analysé l'image de l'acteur via le logiciel pour générer des résultats. En outre, un logiciel fourni par la société américaine Vigilant Solutions permet aux forces de l’ordre de créer « une image proxy provenant d’un dessinateur ou d’un artiste » afin d’améliorer les images de suspects potentiels afin que les logiciels de reconnaissance faciale puissent les faire correspondre plus précisément.

Depuis 2014, les forces de l'ordre ont également demandé l'aide de Parabon NanoLabs , une société qui prétend pouvoir créer une image du visage du suspect à partir de son ADN. Parabon NanoLabs affirme avoir construit ce système en entraînant des modèles d'apprentissage automatique sur les données ADN de milliers de volontaires avec des scans 3D de leurs visages. C'est actuellement la seule société à proposer du phénotypage et uniquement en conjonction avec une enquête de généalogie génétique médico-légale . Le processus n’a pas encore fait l’objet d’un audit indépendant et les scientifiques ont affirmé qu’il n’est pas possible de prédire la forme du visage, en particulier à partir d’échantillons d’ADN. Mais cela n’a pas empêché les forces de l’ordre de chercher à l’utiliser ou de faire passer ces images fabriquées via un logiciel de reconnaissance faciale.

En termes simples : la police utilise l’ADN pour créer un visage hypothétique et pas du tout exact, puis utilise ce visage comme indice sur lequel fonder ses enquêtes sur les crimes. Non seulement cette police se contente de lancer des dés, mais elle menace également les droits, la liberté ou même la vie de quiconque a la malchance de ressembler un peu à ce visage artificiel.

Mais c'est encore pire.

En 2020, un détective du service de police du district du parc régional d'East Bay en Californie a demandé qu'une image rendue par Parabon NanoLabs soit exécutée via un logiciel de reconnaissance faciale. Ce rendu 3D, appelé Snapshot Phenotype Report , prédisait que, entre autres attributs, le suspect était un homme, avait les yeux bruns et la peau claire. Trouvé dans les dossiers de police publiés par Distributed Denial of Secrets , cela semble être le premier rapport d'un détective exécutant un rendu généré de manière algorithmique basé sur l'ADN de la scène du crime via un logiciel de reconnaissance faciale. Cela crée un deuxième niveau de spéculation entre le visage réel du suspect et le produit que la police utilise pour guider les enquêtes et procéder aux arrestations. Non seulement le visage artificiel n’est qu’une supposition, mais désormais la reconnaissance faciale ( une technologie connue pour identifier mal les personnes ) créera une « correspondance la plus probable » pour ce visage.

Ces technologies, et leur utilisation imprudente par les forces de police, constituent une menace inhérente à notre vie privée, à notre liberté d'expression, à la sécurité de l'information et à la justice sociale. La technologie de reconnaissance faciale à elle seule a un historique flagrant d'identification erronée des personnes de couleur , en particulier des femmes noires , et d'incapacité à identifier correctement les personnes trans et non binaires . Les algorithmes ne sont pas toujours fiables , et même si la technologie avait une précision de 100 %, elle resterait un outil inacceptable de surveillance invasive, capable d’identifier et de suivre des personnes à grande échelle. La combinaison de cela avec des rendus 3D fabriqués à partir de l'ADN de scènes de crime augmente de façon exponentielle la probabilité de fausses arrestations et exacerbe les préjudices existants sur les communautés qui sont déjà sur-surveillées de manière disproportionnée par la technologie de reconnaissance faciale et une police discriminatoire.

Aucune règle fédérale n’interdit aux forces de police d’entreprendre de telles actions. Et malgré la demande du détective violant les conditions d'utilisation de Parabon NanoLabs , il n'y a apparemment aucun moyen de garantir la conformité. Regrouper des critères tels que le teint, la couleur des cheveux et le sexe ne donne pas une idée précise du visage d'un suspect, et le déploiement de ces algorithmes non testés sans aucune surveillance expose les gens au risque d'être suspectés d'un crime qu'ils n'ont pas commis. Dans un cas au Canada, le service de police d'Edmonton a présenté des excuses pour son incapacité à équilibrer les préjudices causés à la communauté noire avec la valeur potentielle de l'enquête après avoir utilisé les services de phénotypage ADN de Parabon pour identifier un suspect.

L'EFF continue d'appeler à une interdiction complète de l'utilisation par le gouvernement de la reconnaissance faciale, car sinon, voici les résultats. De combien de preuves supplémentaires les marqueurs juridiques ont-ils besoin pour démontrer que l’on ne peut pas faire confiance à la police avec cette technologie dangereuse ? Combien de personnes supplémentaires devront être arrêtées à tort et combien de projets imprudents comme celui-ci devront être perpétrés avant que les législateurs ne réalisent que ce n’est pas une méthode durable d’application de la loi ? Des villes à travers les États-Unis ont déjà pris la mesure d'interdire l'utilisation de cette technologie par le gouvernement, et le Montana a spécifiquement reconnu un intérêt en matière de confidentialité dans les données phénotypiques. Les autres villes et États doivent rattraper leur retard ou le Congrès doit agir avant que davantage de personnes ne soient blessées et que nos droits ne soient bafoués.