Même avec des changements, la loi PACT révisée entraînera une plus grande censure en ligne

Parmi les dizaines de projets de loi déposés au dernier Congrès pour modifier une loi clé sur Internet qui protège les services en ligne et les utilisateurs d'Internet, la loi sur la responsabilité des plates – formes et la transparence des consommateurs (PACT Act) était peut-être la seule tentative sérieuse de s'attaquer au problème d'une poignée de services en ligne dominants. héberger l'expression des gens en ligne.

Malgré les bonnes intentions de la loi PACT, l'EFF n'a pas pu soutenir la version originale car elle a créé un régime de censure en conditionnant les protections juridiques de 47 USC § 230 («article 230») à la capacité d'une plateforme à supprimer le contenu généré par les utilisateurs que d'autres prétendaient être illicite. Il a également imposé un certain nombre d'autres obligations lourdes aux services en ligne.

À leur honneur, les auteurs de la loi PACT – Sens. Brian Schatz (D-HI) et John Thune (R-SD) – ont écouté les critiques d'EFF et d'autres sur le projet de loi et amendé le texte avant d'introduire une version mise à jour plus tôt ce mois-ci. La loi PACT mise à jour contient cependant les mêmes défauts fondamentaux que l'original: la création d'un régime juridique qui récompense les plateformes pour la censure excessive du discours des utilisateurs. Pour cette raison, l'EFF reste opposé au projet de loi.

Nonobstant notre opposition, nous convenons avec les sponsors de la loi PACT que les internautes souffrent actuellement des aléas des politiques de modération de contenu de Facebook, Google et Twitter. Ces plates-formes ont échoué à plusieurs reprises à traiter les contenus préjudiciables sur leurs services. Mais forcer tous les services hébergeant du contenu généré par les utilisateurs à augmenter leur modération de contenu ne résout pas la domination de Facebook, Google et Twitter – en fait, cela ne fait que renforcer leur statut. En effet, seules les plates-formes disposant de ressources suffisantes seront en mesure de répondre aux exigences du PACT Act, malgré la tentative du projet de loi de traiter les petites plates-formes différemment.

La manière de lutter contre la domination de Facebook, Google et Twitter consiste à adopter des réformes significatives en matière d'antitrust, de concurrence et d' interopérabilité qui réduisent l'influence démesurée de ces services sur l'expression des internautes.

Les régimes de notification et de retrait entraînent la censure de ceux qui ont moins de pouvoir

Comme pour sa version précédente, la principale modification apportée à l'article 230 de la loi PACT Act consiste à conditionner les protections de la loi à savoir si les services en ligne suppriment du contenu lorsqu'ils reçoivent une décision judiciaire constatant que le contenu est illégal. Comme nous l'avons déjà dit , cette proposition, à première vue, semble raisonnable. L'hébergement de contenu généré par les utilisateurs qui, selon un tribunal, est illégal est probablement peu utile.

Mais le nouveau PACT Act ne fournit toujours pas de garanties suffisantes pour empêcher les retraits d'être abusés par des parties qui tentent de supprimer le discours d'autres utilisateurs qu'ils n'aiment pas.

En toute honnêteté, il semble que les sens. Schatz et Thune ont entendu les préoccupations de l'EFF concernant la version précédente, car la nouvelle loi PACT exige que toute ordonnance de retrait soit rendue par les tribunaux après que les deux parties ont plaidé une affaire. Le nouveau langage ajoute également des étapes supplémentaires pour les retraits basés sur des jugements par défaut, un scénario dans lequel le défendeur ne se présente jamais pour se défendre contre le procès. Le projet de loi augmente également le temps qu'un service aurait pour répondre à un avis, de 24 heures à 4 jours dans le cas des grandes plates-formes.

Ces changements marginaux, cependant, ne parviennent pas à relever les défis de la libre expression de la tentative de mise en œuvre d'un régime de notification et de retrait où le risque juridique d'une plate-forme est lié au risque d'être responsable du discours d'un utilisateur particulier.

La nouvelle loi PACT n'impose toujours pas que les avis de retrait soient fondés sur des ordonnances judiciaires finales ou des jugements qui ont jugé le contenu illégal ou non protégé par le premier amendement. Les tribunaux émettent des ordonnances préliminaires qu'ils annulent parfois plus tard. Dans le contexte d'un litige sur la légalité de certains discours, les ordonnances finales rendues par les juridictions inférieures sont souvent annulées par les cours d'appel. Le PACT Act devrait avoir limité les avis de retrait aux ordonnances finales dans lesquelles tous les appels ont été épuisés. Cela n'a pas été le cas, et c'est donc une recette pour supprimer beaucoup d'expressions légales.

les plates-formes sont très peu incitées à faire autre chose que supprimer le contenu généré par l'utilisateur en réponse à une notification de retrait, que les notifications soient légitimes ou non.

Plus fondamentalement, cependant, la nouvelle version du PACT Act passe sous silence le fait qu'en liant les protections de l'article 230 à la capacité d'un service à supprimer rapidement la parole des utilisateurs, les plates-formes sont très peu incitées à faire autre chose que supprimer le contenu généré par les utilisateurs en réponse. à un avis de retrait, que les avis soient légitimes ou non.

Pour le dire autrement: le PACT Act place tout le risque juridique sur un service lorsqu'il ne se conforme pas à une demande de retrait. Si cela se produit, le service perdra les protections de la section 230 et sera traité comme s'il était l'éditeur ou le locuteur du contenu. La solution la plus sûre pour l'intermédiaire sera d'éviter ce risque juridique et de toujours supprimer le contenu généré par l'utilisateur, même si cela se fait au détriment de la censure de grands volumes d'expression légitime.

Il est peu probable que les garanties de la nouvelle loi PACT concernant les jugements par défaut empêchent les retraits abusifs. Le projet de loi donne à un fournisseur de services en ligne 10 jours à compter de la réception d'un avis d'intervenir dans le procès sous-jacent et de passer à l'annulation du jugement par défaut. Si un tribunal constate que le jugement par défaut a été «recherché frauduleusement», le service en ligne pourrait demander le remboursement de ses frais juridiques et honoraires d'avocat.

Cela suppose d'abord que les plates-formes disposeront des ressources nécessaires pour intervenir devant les tribunaux fédéraux et étatiques à travers le pays en réponse aux avis de retrait suspects. Mais un grand nombre de services en ligne hébergeant des discours générés par les utilisateurs sont gérés par des particuliers, des organisations à but non lucratif ou des petites entreprises. Ils ne peuvent pas se permettre de payer des avocats pour lutter contre ces avis.

La disposition suppose également que les services seront incités à riposter au nom de leurs utilisateurs. La réalité est qu'il est toujours plus facile de supprimer le discours que de riposter. Enfin, la capacité d'un fournisseur de récupérer ses frais de justice dépend de la conclusion d'un tribunal qu'un individu a frauduleusement demandé le jugement par défaut initial, un fardeau très lourd qui exigerait des preuves et des conclusions détaillées d'un juge.

En effet, la disposition anti-abus du PACT Act semble être encore moins efficace que celle contenue dans le Digital Millennium Copyright Act, qui oblige les titulaires de droits d'auteur à envisager une utilisation équitable avant d'envoyer un avis de retrait. Nous savons bien que le DMCA est un régime de censure en proie à des suppressions excessives et abusives , même si la loi contient une disposition anti-abus. Nous nous attendrions à ce que le régime de retrait du PACT Act soit également abusé.

Qui risque de perdre ici? Internautes ordinaires, dont l'expression est ciblée par ceux qui ont les moyens d'obtenir des ordonnances judiciaires et d'envoyer des avis de retrait.

Nous comprenons et apprécions l'objectif des sponsors d'essayer d'aider les internautes victimes d'abus, de harcèlement et d'autres formes d'illégalité en ligne. Mais toute tentative visant à protéger ces personnes devrait être calibrée de manière à empêcher de nouveaux types d'abus, par ceux qui cherchent à supprimer l'expression légale.

Plus de transparence et de responsabilité sont nécessaires, mais cela ne devrait pas être légalement mandaté

L'EFF continue de pousser les plateformes à adopter un cadre de droits humains pour leurs décisions de modération de contenu. Cela comprend le fait de fournir aux utilisateurs un préavis adéquat et de faire preuve de transparence quant à leurs décisions de modération. Il est louable que les législateurs souhaitent également que les plates-formes soient plus transparentes et réactives aux utilisateurs, mais nous ne soutenons pas l'obligation légale de ces pratiques.

Tout comme sa version précédente, le nouveau PACT Act oblige les services à divulguer leurs règles de modération de contenu, à créer un système pour répondre aux plaintes concernant le contenu généré par les utilisateurs et à publier des rapports de transparence sur leurs décisions de modération. Le projet de loi exigerait également que les grandes plates-formes exploitent un numéro de téléphone sans frais pour recevoir les plaintes concernant le contenu généré par les utilisateurs. Et comme auparavant, les plateformes qui ne parviennent pas à mettre en œuvre ces mandats feraient l'objet d'enquêtes et de mesures d'application de la part de la Federal Trade Commission.

Comme nous l'avons dit à propos du PACT Act original, le fait d'obliger les services à publier leurs politiques et rapports de transparence sous peine de mise en application par un organisme fédéral chargé de l'application de la loi crée d'importantes préoccupations liées au premier amendement. Cela empiéterait sur la discrétion éditoriale des services et les obligerait à prendre la parole.

La nouvelle version de la loi PACT ne répond pas à ces préoccupations constitutionnelles. Au lieu de cela, il modifie la fréquence à laquelle un service doit publier un rapport de transparence, de quatre fois par an à deux fois par an. Il crée également de nouvelles exceptions pour les petites entreprises, qui n'auraient pas à publier des rapports de transparence, et pour les fournisseurs individuels, qui seraient exemptés des nouvelles exigences.

Comme d'autres l' ont fait remarquer , cependant, les exclusions peuvent s'avérer illusoires parce que la définition du projet de loi d'une petite entreprise est vague et que le plafond est fixé beaucoup trop bas. Et les petites entreprises qui satisfont à l'exception devraient toujours mettre en place des systèmes pour répondre aux plaintes concernant le contenu de leur plate-forme et autoriser les appels des utilisateurs qui pensent que la plainte initiale était erronée ou erronée. Pour un certain nombre de services en ligne – y compris potentiellement des journaux locaux avec des sections de commentaires – la mise en œuvre de ces systèmes sera coûteuse et lourde. Ils peuvent simplement choisir de ne pas héberger du tout le contenu généré par les utilisateurs.

La réduction de la domination des grands services devrait être l'objectif principal, plutôt que d'obliger chaque service à modérer le contenu de l'utilisateur comme les grandes plates-formes

Nous comprenons que, étant donné la domination actuelle de quelques services en ligne qui hébergent une grande partie de notre discours numérique, de nos communautés et d'autres expressions, il est naturel de vouloir de nouvelles lois qui rendent ces services plus responsables envers leurs utilisateurs de leur décision de modération du contenu. Cela est particulièrement vrai car, comme nous l'avons dit à plusieurs reprises, la modération de contenu à grande échelle est impossible à bien faire .

Pourtant, si nous voulons rompre avec la concentration de Facebook, Google et Twitter hébergeant une grande partie de notre discours, nous devons éviter d'adopter des lois qui supposent que nous serons à jamais redevables aux pratiques de modération de ces services. Le PACT Act fait malheureusement cette hypothèse et exige que chaque service en ligne adopte des politiques de modération et de transparence du contenu qui ressemblent aux principales plates-formes en ligne actuelles.

nous devrions éviter d'adopter des lois qui supposent que nous serons à jamais redevables aux pratiques de modération de ces services

La normalisation de la modération du contenu garantira uniquement la survie des plates-formes disposant des ressources et de la capacité nécessaires pour répondre aux exigences légales de la loi PACT. Et nous pensons que ces plates-formes ressembleront beaucoup plus à Facebook, Google et Twitter qu'à être diversifiées. Il est peu probable qu'ils aient des modèles de modération de contenu différents ou innovants qui pourraient mieux servir les internautes.

Au lieu d'essayer d'imposer légalement certaines pratiques de modération de contenu, les législateurs doivent s'attaquer de front à la domination de Facebook, Google et Twitter et au manque de concurrence qui en résulte en mettant à jour la loi antitrust et en adoptant des politiques pro-concurrentielles . L'EFF est prêt et disposé à soutenir ces efforts législatifs.