Meta commencera à signaler sur Facebook, Instagram et Threads si une image a été générée avec l'IA. Google a également fait la même annonce, mais lutter contre les deepfakes semble une mission impossible. Faits et commentaires
Qui n'a pas cru un instant (ou a voulu croire, dans certains cas) que les photos du pape François en doudoune blanche flashy ou celles de l'arrestation de Donald Trump et de Vladimir Poutine étaient vraies ? Avec le développement rapide de l'intelligence artificielle (IA) et de ses outils ces derniers mois, il est de plus en plus difficile de distinguer la réalité de la fiction, notamment sur les réseaux sociaux, véhicule privilégié de diffusion des deepfakes, c'est-à-dire des photos, des vidéos et des sons créés avec des logiciels informatiques. ça a l'air réel.
Meta de Mark Zuckerberg a ensuite annoncé que, dans les mois à venir, des étiquettes apparaîtront sur Facebook, Instagram et Threads pour indiquer si une image a été générée avec l'IA. L'année dernière, Google a également annoncé qu'il prendrait la même mesure pour YouTube et ses autres plateformes.
Cependant, les experts, tout en appréciant l’initiative, sont sceptiques quant à son efficacité.
META ET LES LABELS « MADE BY AI »
Alors que la frontière entre réalité et fiction s'estompe de plus en plus en ligne, Meta a annoncé hier que les images générées avec l'IA seront reconnaissables sur ses réseaux sociaux grâce à une étiquette où sera écrit « made by AI ». L’objectif est d’éviter de créer de la confusion et de propager des deepfakes parmi les utilisateurs via Facebook, Instagram et Threads. Cependant, concernant les contenus pouvant être partagés sur WhatsApp, on ne sait pas encore ce qui va se passer.
Les normes techniques sur lesquelles travaille l'entreprise de Zuckerberg pourraient alors également être étendues à la vidéo et à l'audio créés avec des outils d'IA, même si dans ces cas, selon le président des affaires mondiales de l'entreprise, Nick Clegg, "c'est plus compliqué" . Meta a ensuite déclaré qu'elle commencerait à demander aux utilisateurs d'étiqueter leur contenu audio et vidéo IA et qu'elle appliquerait des sanctions non spécifiées s'ils ne le faisaient pas. Clegg a cependant rappelé qu'il n'existe toutefois aucun mécanisme valable pour étiqueter le texte écrit généré par des outils tels que ChatGpt.
L'intention ambitieuse de Meta, qui étiquette déjà tout contenu généré à l'aide de ses propres outils d'intelligence artificielle, est d'étendre la surveillance aux images générées par les services d'IA d'autres sociétés, telles que OpenAI, Microsoft, Adobe, Midjourney, Shutterstock et Google. Et c’est là que de nombreux experts se disent sceptiques.
PARCE QUE IL SERA DIFFICILE DE LUTTER CONTRE LES DEEPFAKES
À une époque où générer de faux contenus est très simple, grâce à des logiciels élémentaires d’IA, tenter de contenir un fleuve déchaîné semble très difficile. De plus, 2024 est une année électorale et si les élections présidentielles américaines de 2020, suivies de l'assaut du Capitole, n'étaient qu'un avant-goût du poids que les médias sociaux ont eu pour influencer ou désinformer les gens, on ne peut qu'imaginer ce qui pourrait arriver avec les outils d'aujourd'hui. et les progrès de géant réalisés en très peu de temps par l’IA. "Je m'attends à un tsunami de désinformation", a déclaré Oren Etzioni, expert en intelligence artificielle et professeur émérite à l'Université de Washington. « Je ne peux pas le prouver. J'espère avoir tort. Mais les ingrédients sont là et je suis complètement terrifié."
Il y a aussi les risques pour la vie privée et pour l'individu, comme dans le cas des images pornographiques deepfake de Taylor Swift qui ont circulé en ligne et qui auraient été générées par des modèles de diffusion tels que Stable Diffusion, Midjourney ou Dall- E, mais dont l'origine n'a pas alors été tentée d'être déterminée.
Bien qu'accueillie avec enthousiasme, la nouvelle de Meta ne met pas complètement à l'aise. Comme l'a déclaré Gili Vidan de l'Université Cornell, le système est peut-être « assez efficace » pour signaler une grande partie du contenu généré par l'IA et créé avec des outils commerciaux, mais il ne détectera probablement pas tout. Même pour les consommateurs, écrit Quartz , une préoccupation potentielle est que les plateformes technologiques deviendront plus efficaces dans l'identification du contenu généré par l'IA provenant d'une gamme de fournisseurs commerciaux majeurs, mais ne parviendront pas à identifier le contenu produit avec d'autres outils.
Cet article est une traduction automatique de la langue italienne d’un article publié sur le magazine Début Magazine à l’URL https://www.startmag.it/innovazione/letichetta-made-by-ia-di-meta-riuscira-ad-arginare-il-mare-magnum-di-deepfake/ le Wed, 07 Feb 2024 10:20:33 +0000.