La faiblesse des « garde-corps » concernant l’utilisation de la reconnaissance faciale par la police aggrave la situation

L'utilisation par la police de la technologie de reconnaissance faciale (FRT) pose un risque particulièrement énorme pour nos libertés civiles, en particulier pour les hommes et les femmes noirs et d'autres communautés marginalisées. C'est pourquoi l'EFF soutient l'interdiction de l'utilisation du FRT par le gouvernement. Les demi-mesures ne suffisent pas.

Cependant, même si les demi-mesures sont écartées, le législateur californien examine actuellement une proposition particulièrement faible sous la forme de l'AB 1814, rédigé par Asm. Phil Ting (San Francisco). Cela introduirait des limites dérisoires qui ne contribueraient en rien à résoudre les nombreux problèmes que soulève l’utilisation par la police de la reconnaissance faciale. En fait, le libellé du projet de loi pourrait aggraver la situation en Californie.

C'est quelque chose ? C'est pire que rien, et de loin.

Par exemple, les principaux services de police de Californie se sont engagés à ne pas utiliser Clearview AI, une société qui a été poursuivie à plusieurs reprises pour avoir construit sa base de données à partir de publications récupérées sur les réseaux sociaux, à la lumière de la pression du public. Mais l'AB 1814 donne expressément aux services de police le droit d'accéder à des « bases de données tierces », dont Clearview AI. Cela pourrait donner aux organismes chargés de l’application de la loi la possibilité d’utiliser des bases de données dont ils s’étaient auparavant éloignés et éroderait les progrès déjà réalisés par les défenseurs des libertés civiles. Le projet de loi stipule également que la police a accès à n'importe quelle base de données d'État, même si les images n'ont pas été collectées à des fins d'application de la loi.

La Californie ne devrait pas donner le feu vert aux forces de l’ordre pour exploiter des bases de données, en particulier celles créées pour des raisons complètement différentes. Cela va à l’encontre de ce à quoi les gens s’attendent lorsqu’ils fournissent leurs informations à une seule base de données, pour ensuite apprendre que ces informations ont été utilisées par la police sous surveillance.

Enfin, l'AB 1814 ne parvient même pas à respecter les restrictions que d'autres services de police ont accepté d'adopter. Comme nous l'avons écrit précédemment, le service de police de Détroit a accepté de limiter son utilisation de la technologie de reconnaissance faciale après avoir arrêté à tort Robert Williams à la suite d'une « correspondance » incorrecte de reconnaissance faciale. Dans le cadre de ces limites, la police de Détroit a accepté « d'interdire les arrestations basées uniquement sur les résultats de la reconnaissance faciale ou sur les résultats de la séance de photos qui a suivi . » Leur accord affirme également que les procureurs et les avocats de la défense auront accès à des informations sur toute utilisation de FRT dans les cas où les forces de l’ordre déposent des accusations.

Le projet de loi californien n’inclut même pas ces garanties. Il indique que la police ne peut pas utiliser une correspondance dans une base de données comme seule base pour une arrestation, mais cela permettrait qu'une identification de photos basée sur une correspondance soit considérée comme une deuxième technique. Cela place les personnes qui ressemblent au suspect devant des témoins susceptibles de choisir cette personne, même s'il s'agit d'une personne totalement différente. Cela permet aux forces de l’ordre de franchir facilement la barre basse fixée par le projet de loi.

AB 1814 siège à la commission des crédits du Sénat. L'EFF s'est jointe à des dizaines d'organisations de défense des libertés civiles pour exhorter la commission à ne pas faire avancer le projet de loi. Si le projet progresse, nous vous demanderons de nous aider à le combattre au Sénat.

Les partisans du projet de loi ont fait valoir qu’il vaut essentiellement mieux faire quelque chose que de ne pas mettre de garde-fous en place. Mais c'est quelque chose ? C'est pire que rien, et de loin.