Le FEP témoigne aujourd’hui de l’application de la reconnaissance faciale par les forces de l’ordre devant la Commission présidentielle sur l’application des lois et l’administration de la justice

La Commission présidentielle pour l'application des lois et l'administration de la justice a invité le FEP à témoigner sur l'utilisation de la reconnaissance faciale par les forces de l'ordre. La Commission, qui a été créée par décret et convoquée par le procureur général William Barr au début de cette année, est chargée de traiter les problèmes graves auxquels sont confrontés les forces de l'ordre et est composée de représentants des forces de l'ordre fédérales ainsi que de chefs de police et de shérifs du monde entier. pays.

Nous avons témoigné oralement et fourni à la Commission une copie de notre livre blanc, Face Off: Law Enforcement Use of Face Recognition Technology. Voici notre témoignage oral:

Commission présidentielle pour l'application des lois et l'administration de la justice
Audition sur l'utilisation par les forces de l'ordre de la technologie de reconnaissance faciale

Témoignage oral de
Jennifer Lynch
Directeur Contentieux Surveillance
Fondation des frontières électroniques (EFF)

22 avril 2020

Merci beaucoup de m'avoir permis de discuter avec vous aujourd'hui de l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre. Je suis directeur du contentieux de la surveillance à l'Electronic Frontier Foundation, une association à but non lucratif de 30 ans dédiée à la protection des libertés civiles et de la vie privée dans les nouvelles technologies.

Au cours des dernières années, la reconnaissance faciale a considérablement progressé. Désormais, les responsables de l'application des lois peuvent utiliser des appareils mobiles pour capturer des photos prêtes à être reconnues par des personnes qu'ils arrêtent dans la rue; les caméras de surveillance et les caméras portées sur le corps offrent des capacités de numérisation et d'identification du visage en temps réel; et le FBI et de nombreux autres organismes étatiques et fédéraux ont accès à des millions, voire des centaines de millions, d'images de reconnaissance faciale d'Américains respectueux des lois.

Cependant, l'adoption des technologies de reconnaissance faciale s'est faite sans surveillance significative, sans test de précision approprié et sans protections légales pour éviter les abus. Cela a conduit au développement de systèmes non éprouvés qui empiéteront sur les droits constitutionnels et auront un impact disproportionné sur les personnes de couleur.

La reconnaissance faciale et des technologies similaires permettent d'identifier et de suivre les personnes, en temps réel et dans le passé, y compris lors de manifestations politiques légales et d'autres rassemblements sensibles. L'utilisation généralisée de la reconnaissance des visages par le gouvernement – en particulier pour identifier secrètement les gens lorsqu'ils se promènent en public – changera fondamentalement la société dans laquelle nous vivons. Cela va, par exemple, refroidir et dissuader les gens d'exercer leurs droits protégés par le Premier Amendement de parler, de se réunir et de s'associer avec d'autres. D'innombrables études ont montré que lorsque les gens pensent que le gouvernement les surveille, ils modifient leur comportement pour essayer d'éviter un examen minutieux, même lorsqu'ils ne font absolument rien de mal. Et ce fardeau pèse de manière disproportionnée sur les communautés de couleur, les immigrants, les minorités religieuses et les autres groupes marginalisés.

Le droit de parler de façon anonyme et de s'associer à d'autres sans que le gouvernement veille est fondamental pour une démocratie. Et ce n'est pas seulement l'EFF qui dit que – les pères fondateurs ont utilisé des pseudonymes dans les Federalist Papers pour débattre du type de gouvernement que nous devrions former dans ce pays, et la Cour suprême a toujours reconnu que le discours et l'association anonymes étaient nécessaires pour le droit du Premier Amendement à la liberté d'expression a tout son sens.

L'effet de refroidissement de la reconnaissance faciale est exacerbé par les inexactitudes des systèmes de reconnaissance faciale. Par exemple, les propres tests du FBI ont révélé que son système de reconnaissance faciale n'a même pas détecté de correspondance dans une galerie d'images près de 15% du temps. De même, l'ACLU a montré que le produit de reconnaissance faciale d'Amazon, qu'il commercialise de manière agressive auprès des forces de l'ordre, a faussement comparé 28 membres du Congrès à des photos mugshot.

Les menaces de la reconnaissance faciale auront un impact disproportionné sur les personnes de couleur, à la fois parce que la reconnaissance faciale identifie à tort les Afro-Américains et les minorités ethniques à des taux plus élevés que les Blancs, et parce que les bases de données de mug shot incluent un nombre disproportionné d'Afro-Américains, de Latinos et d'immigrants.

Cela a des conséquences réelles; un système inexact impliquera des gens pour des crimes qu'ils n'ont pas commis. L'utilisation de la reconnaissance faciale comme première étape d'une enquête peut biaiser l'enquête vers un suspect particulier. L'identification de sauvegarde humaine, qui a ses propres problèmes, ne confirme souvent que ce biais. Cela signifie que la reconnaissance faciale transférera le fardeau sur les accusés pour montrer qu'ils ne sont pas qui le système dit qu'ils sont.

Malgré ces défis connus, les agences fédérales et étatiques ne sont pas restées transparentes pendant des années sur leur utilisation de la reconnaissance faciale. Par exemple, le public n'avait aucune idée du nombre d'images accessibles à l'unité des services FACE du FBI jusqu'à ce que les rapports du Government Accountability Office de 2016 et 2019 révèlent que le Bureau peut accéder à plus de 641 millions d'images, dont la plupart ont été prises pour des raisons non criminelles telles que l'obtention un permis de conduire ou un passeport.

Les agences d'État ont été tout aussi intransigeantes en fournissant des informations sur leurs systèmes de reconnaissance faciale. L'EFF s'est associée au Georgetown Center on Privacy and Technology pour faire une enquête sur les États qui utilisent actuellement la reconnaissance faciale et avec qui ils partagent leurs données – un projet que nous appelons «Who Has Your Face». De nombreux États, dont le Connecticut, la Louisiane, le Kentucky et l'Alabama, n'ont pas répondu ou ont refusé de répondre à nos demandes de documents publics. Et d'autres États comme l'Idaho et l'Oklahoma nous ont dit qu'ils n'utilisaient pas la reconnaissance faciale, mais d'autres sources, comme les rapports et les documents du GAO de l'Association américaine des administrateurs de véhicules à moteur (AAMVA), semblent contredire cela.

Les responsables de l'application des lois ont également caché au public leurs partenariats avec des entreprises privées. Plus tôt cette année, le public a appris qu'une entreprise appelée Clearview AI avait activement commercialisé sa technologie de reconnaissance faciale auprès des forces de l'ordre, et a affirmé que plus de 1 000 agences à travers le pays avaient utilisé ses services. Mais jusqu'à la mi-janvier, la plupart du grand public n'avait jamais entendu parler de l'entreprise. Même le procureur général du New Jersey a été surpris d'apprendre – après avoir lu l'article du New York Times qui a cassé l'histoire – que des agents de son propre État utilisaient la technologie et que Clearview utilisait son image pour vendre ses services à d'autres agences.

Malheureusement, la police a été tout aussi discrète avec les accusés et les avocats de la défense quant à leur utilisation de la reconnaissance faciale. Par exemple, en Floride, les agents chargés de l'application des lois utilisent la reconnaissance faciale pour tenter d'identifier les suspects depuis près de 20 ans, effectuant jusqu'à 8 000 recherches par mois. Cependant, les avocats de la défense de la Floride ne sont presque jamais informés que la reconnaissance faciale a été utilisée dans les cas de leurs clients. Cela porte atteinte au droit constitutionnel des défendeurs à une procédure régulière de contester les preuves déposées contre eux.

Sans la transparence, la responsabilité et les protocoles de sécurité appropriés en place, les systèmes de reconnaissance faciale seront sujets à une mauvaise utilisation. Par exemple, la police de Baltimore a utilisé la reconnaissance faciale et les médias sociaux pour identifier et arrêter des personnes lors des manifestations après la mort de Freddie Gray. Et Clearview AI a utilisé sa propre technologie de reconnaissance faciale pour surveiller un journaliste et a encouragé les policiers à l'utiliser pour identifier la famille et les amis.

Les Américains ne devraient pas être obligés de se soumettre à des recherches de reconnaissance de visages criminels simplement parce qu'ils veulent conduire une voiture. Et ils ne devraient pas avoir à craindre que chacun de leurs mouvements soit suivi si les réseaux de caméras de surveillance qui couvrent déjà de nombreuses villes sont liés à la reconnaissance faciale.

Mais sans restrictions significatives sur la reconnaissance faciale, c'est là que nous pouvons nous diriger. Sans protections, il pourrait être relativement facile pour les gouvernements d'amasser des bases de données d'images de tous les Américains – ou de travailler avec une entreprise douteuse comme Clearview AI pour le faire pour eux – puis d'utiliser ces bases de données pour identifier et suivre les gens au cours de leur quotidien vies.

En réponse à ces défis, j'encourage cette commission à faire deux choses: premièrement , mener une étude approfondie à l'échelle nationale des pratiques d'application de la loi actuelles et proposées en ce qui concerne la reconnaissance des visages aux niveaux fédéral, étatique et local, et deuxièmement , développer des politiques modèles pour les agences qui restreindront de manière significative l'accès des forces de l'ordre et l'utilisation de cette technologie. Une fois terminés, les deux devraient être facilement accessibles au grand public.

Merci encore pour l'invitation à témoigner. Mon témoignage écrit, un livre blanc que j'ai écrit sur l'utilisation de la reconnaissance faciale par les forces de l'ordre, fournit des informations et des recommandations supplémentaires. Je suis heureux de répondre aux questions.