Les principes de Santa Clara pendant COVID-19: plus importants que jamais

Cet article de blog a été co-écrit avec Spandana Singh de l'Open Technology Institute de New America , un partenaire des principes de Santa Clara.

Alors que COVID-19 s'est répandu dans le monde entier et que les plates-formes en ligne se sont efforcées d'adapter leurs opérations et leurs effectifs à une nouvelle réalité, les engagements de l'entreprise envers les principes de Santa Clara sur la transparence et la responsabilité dans la modération de contenu ont été abandonnés. Les Principes – rédigés en 2018 par un groupe d'organisations, de défenseurs et d'experts universitaires qui soutiennent le droit à la liberté d'expression en ligne – décrivent les niveaux minimaux de transparence et de responsabilité que les plateformes technologiques devraient fournir autour de leur modération du contenu généré par les utilisateurs.

Cependant, les valeurs et les normes décrites dans les Principes sont particulièrement importantes lors de crises telles que la pandémie en cours, car elles tiennent les entreprises responsables de leurs politiques et pratiques. La propagation du virus dans le monde est sans précédent et les entreprises ont dû réagir rapidement. Mais c'est une explication, pas une excuse: les plates-formes futures doivent faire plus pour protéger les droits numériques et l'expression des utilisateurs.

À la suite de la pandémie, de nombreuses entreprises technologiques ont modifié leur façon de modérer le contenu. Par exemple, Reddit – qui s'appuie fortement sur la modération communautaire plutôt que commerciale – a fait appel à des experts pour peser sur les sous-crédits liés à COVID-19. Facebook a annoncé fin avril qu'il travaillait avec les gouvernements locaux aux États-Unis pour interdire les événements qui violaient les ordres de distanciation sociale. Et Twitter a publié un guide détaillé de leurs changements de politique et de processus pendant cette période.

Plusieurs sociétés, dont YouTube , Twitter et Facebook, se sont tournées vers des outils automatisés pour soutenir leurs efforts de modération de contenu. Selon Facebook et d'autres sociétés, l'utilisation accrue de l'automatisation est due au fait que la plupart des modérateurs de contenu ne peuvent pas consulter le contenu depuis leur domicile, en raison de problèmes de sécurité, de confidentialité, juridiques et de santé mentale. À la lumière de cette évolution, certaines entreprises ont mis en place de nouvelles mesures, ou garanties, en reconnaissant que l'automatisation peut ne pas toujours donner des résultats précis. Par exemple, Twitter s'est engagé à ne pas suspendre définitivement les comptes pendant cette période, tandis que Facebook offre aux utilisateurs qui ne sont pas satisfaits des décisions de modération d'enregistrer leur désaccord.

Néanmoins, les entreprises ont averti les utilisateurs qu'ils devraient s'attendre à davantage d'erreurs de modération, étant donné que les outils automatisés sont souvent incapables de détecter et de supprimer avec précision la parole, en particulier avec le contenu qui nécessite une analyse contextuelle.

Les Principes de Santa Clara restent un cadre directeur sur la manière dont les entreprises peuvent assurer une plus grande transparence et responsabilisation autour de leurs pratiques, même et surtout pendant cette période opaque et difficile.

En particulier:

• Les entreprises devraient collecter et conserver les données liées à la modération du contenu pendant la pandémie. Ces chiffres doivent être utilisés pour informer un rapport de transparence spécifique à COVID-19, qui décrit la portée et l'ampleur des efforts de modération du contenu des entreprises pendant la pandémie. En outre, ces points de données devraient être utilisés pour éclairer les discussions futures avec les décideurs, la société civile et les universitaires sur les limites des outils automatisés de modération de contenu.
• En outre, les entreprises doivent fournir un avis significatif et adéquat aux utilisateurs dont le contenu ou les comptes ont été signalés ou supprimés. Ils doivent également informer les utilisateurs de tout changement dans le contenu ou les politiques de modération pendant cette période.
• Enfin, les entreprises devraient continuer à proposer des procédures d' appel robustes à leurs utilisateurs le plus rapidement possible. Étant donné la dépendance croissante des plateformes Internet à l'égard des outils de modération de contenu automatisés pendant cette période, ces mécanismes de recours sont plus importants que jamais.