Les partisans de l’État islamique, confrontés à d’importants revers militaires, exploitent de plus en plus l’intelligence artificielle (IA) pour générer une propagande en ligne sophistiquée. Les experts rapportent que les partisans de l’Etat islamique ont pu produire une propagande élaborée, telle que des bulletins d’information créés par l’IA dans plusieurs langues, en utilisant cette technologie.
Lire aussi : Les robots utilisant l’intelligence artificielle inondent les réseaux sociaux de désinformation
L’État islamique du Khorasan (ISKP), une branche de l’EI active en Afghanistan et au Pakistan, en est un bon exemple. Après une attaque revendiquée par l'Etat islamique dans la province de Bamiyan le 17 mai, qui a tué quatre personnes, dont trois touristes espagnols, l'ISKP a diffusé une vidéo d'un animateur d'AI TV. L'animateur, qui parlait pachtoune, ressemblait aux locaux et a raconté l'attaque, montrant l'utilisation par le groupe de l'intelligence artificielle pour rendre le contenu plus crédible.
Les affiliés de l'EI déploient des présentateurs de nouvelles générés par l'IA
Une autre vidéo produite par AI a été publiée dans laquelle un hôte virtuel affirme que l'Etat islamique était à l'origine d'un attentat à la voiture piégée à Kandahar, en Afghanistan. L'expert en cybersécurité Roland Abi Najem a souligné l'efficacité de ces vidéos deepfake basées sur l'IA, ajoutant que l'EI utilise depuis des années une production de qualité hollywoodienne.
"L'IA dispose désormais d'outils faciles à utiliser pour créer de faux contenus, qu'il s'agisse de texte, de photos, d'audio ou de vidéo. Vous avez juste besoin de données, d'algorithmes et de puissance de calcul, pour que n'importe qui puisse créer du contenu généré par l'IA depuis sa maison ou son garage."
Roland Abi Najem
L'utilisation de l'intelligence artificielle par l'Etat islamique à des fins de propagande a été officiellement lancée quelques jours seulement après un terrible acte terroriste à Moscou le 22 mars, au cours duquel 145 personnes ont été tuées. Les experts ont souligné que pour la première fois, un journaliste d’IA avait été utilisé pour rapporter cette attaque et que ce groupe avait eu recours à la diffusion de fausses nouvelles via l’intelligence artificielle.
Expansion de l'influence extrémiste via le contenu de l'IA
Mona Thakkar, chercheuse au Centre international pour l'étude de l'extrémisme violent, a déclaré que les partisans de l'Etat islamique utilisent des techniques de génération de caractères.
"Ces efforts ont suscité des réponses positives de la part d'autres utilisateurs, ce qui montre que, grâce à de futurs efforts de collaboration, de nombreux défenseurs pourraient produire des vidéos de propagande de l'EI sophistiquées, de haute qualité et de longue durée, avec de meilleurs graphismes et des techniques plus innovantes."
Lire aussi : Quelle est la bataille entre fake news et intelligence artificielle lors des élections de 2024 ?
Thakkar a également noté que les membres faisant la promotion d'IS sur Telegram encouragent l'utilisation de robots générateurs d'images IA, car ils produisent des images de haute qualité pour la chaîne, car ces robots sont efficaces et faciles à utiliser. Cette pratique est révélatrice de l’utilisation croissante de l’intelligence artificielle comme outil pour améliorer l’efficacité et la cohésion de l’extrémisme.
L’intelligence artificielle permet les opérations d’influence et de recrutement
Même si le groupe a perdu beaucoup de terrain en Syrie et en Irak, il utilise toujours l’intelligence artificielle pour diffuser son message de haine et présenter une façade de force. Comme l’a déclaré Najem, avec l’aide de l’intelligence artificielle, l’EI peut créer des vidéos deepfake pour inciter des célébrités et des influenceurs spécifiques, principalement des jeunes, à rejoindre l’organisation.
Lire aussi : L’intelligence artificielle révolutionne la lutte contre le blanchiment d’argent et le terrorisme
Daniel Siegel, chercheur au Réseau mondial sur l'extrémisme et la technologie, a expliqué que l'intelligence artificielle a changé la nature des opérations d'influence en ligne des groupes extrémistes.
« Le déploiement stratégique de deepfake nasheed extrémistes audio, mettant en vedette des personnages animés et des personnalités Internet, marque une évolution sophistiquée dans les tactiques utilisées par les extrémistes pour élargir la portée de leur contenu. »
Siegel a également déclaré que d’autres organisations terroristes telles qu’Al-Qaida et le Hamas se sont également tournées vers l’IA pour produire du contenu destiné à leurs partisans. Alors que ces organisations radicales utilisent l’IA pour créer des contenus d’aspect professionnel, traduits et convaincants, les autorités et les géants de la technologie doivent trouver des moyens de contrer ces menaces.