L'UNESCO a exprimé sa préoccupation quant au fait que l'IA générative pourrait déformer l'histoire de l'Holocauste si les développeurs d'IA n'appliquent pas de normes éthiques. Dans un rapport publié lundi, l'UNICEF a mis en garde contre une éventuelle utilisation abusive de l'intelligence artificielle générative par des acteurs malveillants.
Lire aussi : Les banques centrales doivent « monter la barre » en matière d'intelligence artificielle, prévient la BRI
Le rapport de l'UNESCO prévient que de mauvais acteurs pourraient utiliser la technologie pour diffuser de la désinformation, des informations erronées et des contenus trompeurs sur l'Holocauste.
Les jeunes sont vulnérables à la désinformation
Le rapport , publié en collaboration avec le Congrès juif mondial, prévient que les jeunes courent un plus grand risque de recevoir des informations biaisées en raison de leur forte exposition aux technologies émergentes telles que l'intelligence artificielle.
En effet, les rapports suggèrent également que 80 % des jeunes âgés de 10 à 24 ans utilisent l’IA pour diverses tâches telles que les devoirs scolaires, ce qui augmente leurs chances d’accéder à des informations biaisées.
« Si nous permettons que les horribles faits de l’Holocauste soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’intelligence artificielle, nous risquons une propagation explosive de l’antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités. »
Audrey Azoulay, directrice générale de l'UNESCO.
Le rapport souligne également que l’IA a une forte propension à « simplifier à l’excès une histoire complexe, en privilégiant un éventail restreint de sources et une sélection restreinte d’événements ». Par exemple, environ 60 à 80 % des résultats des images principales des moteurs de recherche IA montrent un seul site de l’Holocauste, Auschwitz-Birkenau.
L'UNESCO appelle à l'action pour faire respecter l'éthique
Le rapport affirme que l’IA peut perpétuer les préjugés existants et que l’Holocauste ne sera pas épargné par ces préjugés de l’IA. Selon l’UNESCO, la désinformation sur l’Holocauste est déjà répandue et pourrait s’aggraver en raison de l’utilisation générative de l’intelligence artificielle.
Lisez aussi : Meta AI se développe en Inde dans un contexte de concurrence croissante en IA
Azoulay a souligné l'importance d'appliquer des normes éthiques pour protéger les jeunes contre les informations déformées.
« La mise en œuvre de la Recommandation de l'UNESCO sur l'éthique de l'IA est nécessaire de toute urgence afin que les jeunes générations grandissent avec des faits et non avec des inventions. »
Azoulay.
Le rapport souligne que des modèles d'IA tels que ChatGPT d'OpenAI et Bard de Google, désormais Gemini, ont halluciné l'Holocauste, détaillant des événements qui ne se sont jamais produits. Selon l’UNESCO, ces modèles « ont fabriqué le concept de l’Holocauste à travers des campagnes de noyade au cours desquelles les nazis ont noyé des Juifs dans des rivières et des lacs ».
Les modèles d’IA ont également créé de fausses citations pour étayer ces récits déformés. À la lumière de ces incidents, l'UNESCO a appelé à une approche multilatérale pour relever ce défi. L’une des solutions réside dans la mise en œuvre rapide de la recommandation sur l’éthique de l’IA adoptée par les États membres en 2021.
L'UNESCO a également exhorté les entreprises technologiques à respecter les principes d'équité, de transparence, de droits de l'homme et de diligence raisonnable. Huit entreprises technologiques ont signé un engagement avec le directeur général de l'UNESCO en février, s'engageant à appliquer une approche éthique dans le développement de leurs modèles d'intelligence artificielle.
Reportage cryptopolitique par Enacy Mapakame