Dans un prochain discours devant le Comité des enfants, Coimisiún na Meán, le régulateur des médias, mettra en garde contre les dangers que les enfants accordent trop de confiance à l'intelligence artificielle ( IA ). Le régulateur soulignera l'amplification potentielle des contenus en ligne nuisibles en raison de la dépendance des enfants à l'égard des systèmes d'intelligence artificielle, qui n'ont pas été conçus principalement pour leur sécurité.
Risques soulignés par le comité des enfants de Coimisiún na Meán
Niamh Hodnett, commissaire à la sécurité en ligne de Coimisiún na Meán, fera part de ses inquiétudes concernant l'intégration de l'intelligence artificielle générative dans diverses plateformes et son impact potentiel sur les enfants.
Hodnett mettra en évidence les risques associés au contenu généré par l'IA, notamment la diffusion d'informations dangereuses ou fausses et l'exposition à du matériel inapproprié pour l'âge.
L’émergence de deepfakes et de matériels d’exploitation d’enfants générés par l’IA est particulièrement alarmante, car ils constituent des menaces importantes pour la sécurité en ligne des enfants.
Appel à une intervention réglementaire
L'avertissement de Coimisiún na Meán fait suite à des discussions au sein du comité des enfants de l'Oireachtas sur les efforts insuffisants de l'Irlande pour protéger les enfants des risques liés à l'IA.
Bien qu’elle dispose d’organismes de régulation capables de faire appliquer la législation, comme le commissaire à la protection des données et la Coimisiún na Meán, l’Irlande a été critiquée pour ne pas avoir répondu de manière adéquate aux défis posés par l’intelligence artificielle dans le domaine numérique.
Les membres du comité ont souligné la nécessité de mesures coercitives robustes pour empêcher que les enfants soient traités comme des sujets expérimentaux dans le paysage numérique.
Réponse et mesures réglementaires
Consciente de la gravité de la situation, l'autorité irlandaise de régulation des médias a salué l'application de la loi européenne sur les services numériques, accordant à la Coimisiún na Meán de plus grands pouvoirs pour tenir les plateformes numériques responsables de la protection des utilisateurs, en particulier des enfants, en ligne.
Dans le cadre de ses efforts pour faire face aux risques liés à l'intelligence artificielle, Coimisiún na Meán a intégré des mesures dans son projet de Code de sécurité en ligne visant à protéger les enfants contre les contenus préjudiciables. Ces mesures comprennent des évaluations d'impact sur la sécurité et la mise en œuvre de protocoles de sécurité pour atténuer les dommages potentiels causés par les systèmes de recommandation basés sur l'IA .