Pas un canular: la menace très réelle des lois politiques «Deepfakes»

Pas un canular: la menace très réelle des lois politiques «Deepfakes»

"Le coronavirus, c'est leur nouveau canular." C'est ce que dit Donald Trump – ou du moins semble le dire – dans une nouvelle publicité politique diffusée dans les États du pays.

L'annonce, créée par un super PAC démocrate, rassemble des extraits audio de divers discours de Trump sur le coronavirus. L'audio épissé est lu tandis qu'un graphique, représentant le nombre de cas de coronavirus aux États-Unis, croît de façon exponentielle en arrière-plan. L'annonce se termine par l'audio et la vidéo de Trump déclarant: "Non, je ne prends aucune responsabilité du tout."

Selon la campagne Trump, la séquence au début de l'annonce – la partie «canular» – est «fausse, trompeuse et trompeuse», car l'audio utilisé dans l'annonce a été modifié pour «impliquer frauduleusement et malicieusement» que Trump a appelé le coronavirus un «canular». L'audio de cet extrait a apparemment été tiré d'un seul discours prononcé lors d'un rassemblement en février en Caroline du Sud; mais plusieurs phrases – survenant après que Trump a dit «coronavirus» et avant qu'il ait dit «c'est leur nouveau canular» – ont été éditées.

La semaine dernière, la campagne Trump a déposé un procès en diffamation contre une petite station de télévision du Wisconsin qui diffusait l'annonce. Nous pensons que ce procès a peu de chances d'aboutir. Mais les mérites juridiques sont presque hors de propos, car ils peuvent encore avoir l' effet escompté: étouffer les critiques du président et dissuader d'autres chaînes de télévision de diffuser l'annonce. La campagne Trump a menacé une deuxième chaîne de télévision d'une annonce distincte.

Malheureusement, une vague de nouvelles lois étatiques est susceptible d'augmenter la fréquence de ce type de poursuites, et même la menace de poursuites pénales , par des pouvoirs enracinés cherchant à préserver leur avantage politique.

La menace? Lois politiques de «deepfakes».

D'une manière générale, ces lois interdisent la création et la publication de vidéos ou d'images politiques contenant des médias qui ont été manipulés de manière significative. Beaucoup de ces lois ont été introduites à la hâte en 2019, stimulées par une vidéo désormais tristement célèbre de Nancy Pelosi qui avait été modifiée pour donner l'impression qu'elle formulait ses mots. Jusqu'à présent, deux États, la Californie et le Texas , ont des lois sur les livres, et plusieurs autres États ont des lois à l'étude.

Bien que les motivations derrière ces lois puissent être pures, l'annonce «canular» et la réponse de la campagne Trump montrent comment ces lois pourraient être utilisées à l'avenir et pourquoi l'EFF est si préoccupé.

"[Une] personne réelle effectuant une action qui ne s'est pas produite en réalité"

Examinons la loi du Texas, qui en fait un délit de classe A pour une personne de créer et de publier une «fausse vidéo profonde» dans les 30 jours suivant une élection. Le créateur de la vidéo doit avoir l'intention de «blesser un candidat» ou «d'influencer le résultat d'une élection». Les condamnations sont passibles d'une amende ou d'un an de prison.

La définition de la «fausse vidéo profonde» de la loi n'est pas ce que vous pourriez penser: elle ne nécessite pas que la vidéo soit faite avec l'intelligence artificielle, l'apprentissage automatique ou toute autre technologie sophistiquée. Au lieu de cela, une «fausse vidéo profonde» est toute «vidéo, créée dans l'intention de tromper, qui semble représenter une personne réelle effectuant une action qui ne s'est pas produite en réalité».

Comme de nombreuses tentatives législatives pour interdire les «deepfakes» politiques, la loi du Texas est désespérément trop large. Par exemple, la loi pourrait éventuellement criminaliser l'utilisation de fiction ou de dramatisation dans les vidéos politiques. L'une des publicités politiques américaines les plus influentes de tous les temps – « Daisy » – semble représenter une personne réelle effectuant une action qui n'a pas eu lieu dans la réalité: dans l'annonce, une jeune fille cueille une fleur juste avant l'explosion d'une bombe nucléaire. La publicité a été créée par la campagne politique de Lyndon Johnson pour «blesser» un candidat politique, Barry Goldwater, et pour «influencer le résultat des élections». Et, républicains, à l'époque, accusé que l'annonce était un «mensonge inspiré de panique []» visant à «effrayer l'esprit des enfants afin de faire pression sur leurs parents» – une accusation qui ressemble étrangement à une «intention de tromper . " Si cette loi était sur les livres dans les années 1960, les créateurs et les éditeurs de la vidéo sur la campagne de LBJ auraient pu être accusés d'un crime.

Au-delà de cela, la loi risque de criminaliser les vidéos politiques qui s'appuient sur des techniques de tournage courantes. Ajout de musique dramatique, d'effets sonores ou de narration; utiliser des images en noir et blanc au lieu de la couleur; et le montage et l'assemblage vidéo et audio sont tous régulièrement utilisés dans les vidéos politiques. Mais ces techniques d'édition, à des degrés divers, pourraient aboutir à un produit qui ne représente pas strictement la «réalité». Prenons, par exemple, cette vid campagne de eo Michael Bloomberg créé, qui contient des images éditées à partir d' un débat démocratique qui semble dépeignent les autres candidats démocrates qui luttent pour répondre à une question. Si les personnes qui créaient cette vidéo avaient «l'intention de tromper», la création et la publication de cette vidéo pourraient également constituer un crime au Texas. Et Bloomberg n'est pas la première campagne à utiliser un type d'édition ou d'effets trompeurs dans une publicité politique.

L'annonce "Hoax" montre tous les problèmes avec la loi du Texas

Il ne fait aucun doute que l'annonce «canular», si elle est diffusée dans les 30 jours suivant une élection, pourrait vraisemblablement satisfaire tous les éléments de la loi du Texas. C'est un grave problème pour la libre expression politique.

Tout d'abord, l'annonce «canular» a évidemment été créée et publiée. Deuxièmement, l'annonce – comme toute annonce politique négative – a été distribuée avec l'intention de «blesser» un candidat politique, Donald Trump, et «d'influencer les résultats d'une élection». Et, enfin, l'annonce «semble dépeindre une personne réelle» (Trump) effectuant une «action» (en disant, en une seule phrase, «Le coronavirus, c'est leur nouveau canular») qui, à proprement parler, n'a pas «eu lieu» en réalité." Ou, du moins, cela ne s'est pas produit de la façon dont l'annonce le fait paraître.

Le seul élément restant est de savoir si les créateurs avaient «l'intention de tromper» requise. La campagne Trump affirme que l' épissure audio ensemble est intentionnellement trompeuse car, si elle est fournie avec le contexte complet des remarques de Trump, «il est clair que« ceci »[comme dans,« c'est leur nouveau canular »] ne fait pas référence au coronavirus et se réfère plutôt directement à la politisation par les démocrates de la pandémie. »

Mais ce n'est pas du tout «clair». Même les vérificateurs des faits ne peuvent pas être d'accord. Le Washington Post a donné la "publicité canular" "Quatre Pinocchios", signalant qu'il était d'accord avec la campagne Trump qu'il était faux. Snopes a conclu que la réclamation contenait «des éléments importants de vérité et de fausseté». D'un autre côté, les principaux médias ont publié des articles cohérents avec l'annonce – que Trump avait qualifié le coronavirus de «canular».

Le premier amendement n'autorise pas la responsabilité pénale ou civile sur «cela»

Vous pouvez voir le contexte complet des remarques de Trump ici et décider par vous-même. Mais la façon dont vous interprétez ce que Trump a dit pourrait révéler plus de vos propres points de vue qu'elle ne fournit une interprétation faisant autorité: si vous avez tendance à soutenir Trump, vous êtes probablement enclin à penser que «cela» fait référence à une critique des démocrates; si vous avez tendance à vous opposer à Trump, vous êtes probablement enclin à penser que «cela» fait référence à toute l'épidémie.

Et c'est exactement pourquoi une question comme ce que «cela» signifie ne devrait pas être posée à un jury criminel au Texas – ou dans tout autre État, d'ailleurs: les vérités politiques sont souvent dans l'œil du spectateur.

Comme la Cour suprême l' a reconnu , le premier amendement «protège l'expression et l'association sans égard à la race, à la croyance ou à l'appartenance politique ou religieuse». mais il protège également l'expression sans égard à la «vérité, popularité ou utilité sociale des idées et des croyances qui sont proposées». Une expression politique complète et robuste nécessite un « espace de respiration » – et cela inclut même l'espace pour un discours politique faux ou trompeur. «Notre tradition constitutionnelle s'oppose à l'idée que nous avons besoin du ministère de la Vérité d'Océanie.»

La loi du Texas donne aux procureurs un large pouvoir de censure des discours politiques avec lesquels ces procureurs ne sont pas d'accord. Et le pouvoir d'appliquer ce type de loi sera inévitablement utilisé contre ceux qui n'ont pas le pouvoir, quelle que soit leur appartenance politique. En fait, le maire de Houston en poste a déjà appelé les procureurs à enquêter sur un opposant politique pour violation de la loi. C'est un pouvoir que nous ne pouvons confier à aucun gouvernement, qu'il s'agisse de procureurs au Texas ou en Californie, à New York ou en Floride.

La loi du Texas viole le premier amendement, et nous avons l'intention de veiller à ce qu'il – et d'autres lois comme lui – ne puissent pas être utilisés pour faire taire les critiques du gouvernement et refroidir autrement l'expression politique.


Cet article est une traduction automatique d’un post publié sur le site d’Electronic Frontier Foundation à l’URL https://www.eff.org/deeplinks/2020/04/not-hoax-very-real-threat-political-deepfakes-laws le Mon, 27 Apr 2020 21:58:14 +0000.