La loi sur la sécurité en ligne des enfants est un plan musclé pour forcer les plateformes à espionner les jeunes

Mettre les enfants sous surveillance et limiter leur accès à l'information ne les rend pas plus sûrs. En fait, la recherchesuggère tout le contraire. Malheureusement, ces tactiques sont celles approuvées par le Kids Online Safety Act de 2022 (KOSA), introduit par Sens. Blumenthal et Blackburn. Le projet de loi mérite le mérite d'avoir tenté d'améliorer la confidentialité des données en ligne pour les jeunes et d'avoir tenté de mettre à jour la règle de protection de la vie privée en ligne des enfants (COPPA) de 1998. Mais son projet d'exiger la surveillance et la censure de toute personne de moins de seize ans mettrait gravement en danger les droits et la sécurité des jeunes en ligne.

KOSA aurait besoin des éléments suivants :

• Une nouvelle obligation légale pour les plateformes de prévenir certains dommages : KOSA décrit un large éventail de contenus pour lesquels les plateformes peuvent être poursuivies si les jeunes y sont confrontés, y compris "la promotion de l'automutilation, du suicide, des troubles de l'alimentation, de la toxicomanie et d'autres questions qui présenter un risque pour la santé physique et mentale d'un mineur.
• Obliger les plateformes à fournir des données aux chercheurs
• Un système élaboré de vérification de l'âge, probablement géré par un fournisseur tiers
• Contrôles parentaux, activés et réglés sur leurs paramètres les plus élevés, pour bloquer ou filtrer un large éventail de contenus

Il y a de nombreuses préoccupations avec ce plan. Les contrôles parentaux nécessiteraient en effet un grand nombre de plateformes en ligne pour créer des systèmes permettant aux parents d'espionner – et de contrôler – les conversations que les jeunes peuvent avoir en ligne, et exigeraient que ces systèmes soient activés par défaut. Cela entraînerait également probablement un suivi supplémentaire de tous les utilisateurs.

La collecte de données est un fléau pour tout internaute, quel que soit son âge.

Et afin d'éviter toute responsabilité pour avoir causé les dommages énumérés, presque toutes les plateformes en ligne cacheraient ou supprimeraient d'énormes pans de contenu. Et parce que chacun des domaines de préoccupation répertoriés implique des zones grises importantes, les plates-formes sur-censureront pour tenter d'éviter les nouveaux risques de responsabilité.

Ces exigences seraient appliquées bien plus largement que la loi que KOSA espère mettre à jour, la COPPA. Alors que la COPPA s'applique à toute personne de moins de treize ans, KOSA s'appliquerait à toute personne de moins de seize ans – un groupe d'âge qui, selon les organisations de défense des droits de l'enfant, a un plus grand besoin d'intimité et d'indépendance que les adolescents et les enfants plus jeunes. Et contrairement au programme d'auto-vérification de l'âge de la COPPA, la KOSA autoriserait une étude fédérale sur "les options les plus faisables sur le plan technologique pour développer des systèmes permettant de vérifier l'âge au niveau de l'appareil ou du système d'exploitation". Les systèmes de vérification de l'âge sont troublants – exiger de tels systèmes pourrait céder un pouvoir important et des données privées à des sociétés tierces de vérification d'identité comme Clear ou ID.me . De plus, un tel système conduirait probablement les plateformes à mettre en place des systèmes élaborés de vérification de l'âge pour tout le monde, ce qui signifie que tous les utilisateurs devraient soumettre des données personnelles.

Enfin, la définition incroyablement large de KOSA d'une plate-forme couverte inclurait toute "application logicielle commerciale ou service électronique qui se connecte à Internet et qui est utilisée, ou est raisonnablement susceptible d'être utilisée, par un mineur". Cela engloberait probablement tout, d'iMessage et Signal d'Apple aux navigateurs Web, aux applications de messagerie et aux logiciels VPN, ainsi que des plates-formes comme Facebook et TikTok, des plates-formes avec des bases d'utilisateurs et des utilisations très différentes. On ne sait pas non plus à quelle profondeur dans la "pile technologique" une telle exigence atteindrait – les hébergeurs Web ou les registres de domaine ne sont probablement pas les plates-formes prévues pour KOSA, mais selon l'interprétation, ils pourraient être soumis à ses exigences. Et, le projet de loi soulève des inquiétudes quant à la façon dont les fournisseurs de plates-formes de messagerie cryptées de bout en bout comme iMessage, Signal et WhatsApp interpréteraient leur devoir de surveiller les communications des mineurs, avec le potentiel que les entreprises compromettent simplement le cryptage pour éviter les litiges.

La censure n'est pas la solution

KOSA forcerait les sites à utiliser des filtres pour bloquer le contenu – les filtres que nous avons vus à maintes reprises ne parviennent pas à distinguer correctement le "bon" discours du "mauvais" discours. Les types de contenus ciblés par KOSA sont complexes et souvent dangereux, mais en discuter n'est pas mauvais par défaut . Il est très difficile de différencier les mineurs ayant des discussions sur ces sujets d'une manière qui les encourage, par opposition à une manière qui les décourage. En vertu de ce projet de loi, toute discussion et visualisation de ces sujets par des mineurs devrait être bloquée.

La loi oblige les plateformes à bannir la catégorie potentiellement infinie des « autres matières qui présentent un risque pour la santé physique et mentale d'un mineur.

Des recherches existent déjà montrant que de telles interdictions ne fonctionnent pas : lorsque Tumblr a interdit les discussions sur l'anorexie, il a découvert que les mots-clés utilisés dans le contenu pro-anorexie étaient les mêmes que ceux utilisés pour décourager l'anorexie. D'autres recherches ont montré que des interdictions comme celles-ci rendent le contenu plus facile à trouver en forçant les gens à créer de nouveaux mots-clés pour en discuter (par exemple, "thinspiration" est devenu "thynsperation").

La loi exige également des plateformes qu'elles interdisent la catégorie potentiellement infinie des "autres questions qui présentent un risque pour la santé physique et mentale d'un mineur". Comme nous l'avons vu dans le passé, chaque fois que la légalité d'un matériel est sujette à interprétation, il est beaucoup plus probable qu'il soit purement et simplement interdit, laissant d'énormes trous dans les informations accessibles en ligne. La loi mettrait sérieusement en danger l'accès à l'information des adolescents, qui pourraient vouloir explorer des idées à l'insu ou sans l'approbation de leurs parents. Par exemple, ils peuvent avoir des questions sur la santé sexuelle qu'ils ne se sentent pas en sécurité de poser à leurs parents, ou ils peuvent vouloir aider un ami souffrant d'un trouble de l'alimentation ou d'un problème de toxicomanie. (La recherche a montré qu'une grande majorité de jeunes ont utilisé Internet pour des recherches liées à la santé.)

La KOSA autoriserait les procureurs généraux des États à intenter des actions contre les plates-formes lorsque les résidents de l'État sont "menacés ou lésés par l'engagement de toute personne dans une pratique qui viole la présente loi". Cela laisse aux procureurs généraux de chaque État le soin de décider quels sujets présentent un risque pour la santé physique et mentale d'un mineur. Un co-auteur de ce projet de loi, le sénateur Blackburn du Tennessee, a qualifié l'éducation sur la discrimination raciale de « dangereuse pour les enfants ». De nombreux États ont accepté et ont récemment décidé de limiter l'éducation du public sur l'histoire de la discrimination raciale , sexuelle et sexuelle .

Récemment, le gouverneur du Texas a ordonné au Département des services familiaux et de protection de l'État d'enquêter sur les soins affirmant le genre en tant que maltraitance d'enfants. KOSA habiliterait le procureur général du Texas à définir le matériel qui est nocif pour les enfants, et la position actuelle de l'État inclurait des ressources pour les jeunes trans. Cela permettrait à l'État de forcer les services en ligne à supprimer et à bloquer l'accès à ce matériel partout, pas seulement au Texas. Sans parler de la confusion fréquente par les plates-formes technologiques du contenu LGBTQ avec du matériel « sexuellement explicite » dangereux. KOSA pourrait entraîner la perte d'accès à des informations qui, selon une grande majorité de personnes, ne sont pas dangereuses, mais font l'objet d'attaques politiques.

La surveillance n'est pas la solution

Certaines préoccupations légitimes animent KOSA. La collecte de données est un fléau pour tout internaute, quel que soit son âge. Le traçage invasif des jeunes par les plateformes en ligne est particulièrement pernicieux – l'EFF a longtemps repoussé la surveillance à distance , par exemple.

Mais la réponse à notre manque de confidentialité n'est pas plus de suivi. Malgré l'omniprésence croissante de la technologie pour faciliter les choses, la surveillance des jeunes est en fait mauvaise pour eux , même dans le foyer le plus sain, et n'est pas une solution pour aider les jeunes à naviguer sur Internet. Les parents ont intérêt à décider ce que leurs enfants peuvent voir en ligne, mais personne ne peut prétendre que cet intérêt est le même si un enfant a cinq ou quinze ans. KOSA mettrait tous les enfants de moins de seize ans dans le même groupe et exigerait que des types de contenu spécifiques leur soient cachés et que les autres contenus soient suivis et enregistrés par des outils parentaux. Cela obligerait les plateformes à surveiller de plus près ce que font tous les utilisateurs.

Les contrôles parentaux de KOSA donneraient aux parents, par défaut, un accès pour surveiller et contrôler l'utilisation en ligne d'un jeune. Alors qu'un outil comme Screen Time d'Apple permet aux parents de restreindre l'accès à certaines applications ou de limiter leur utilisation à certaines heures, les plates-formes devraient faire beaucoup plus sous KOSA. Ils devraient offrir aux parents la possibilité de modifier les résultats de tout système de recommandation algorithmique, "y compris le droit de refuser ou de déclasser les types ou catégories de recommandations", de décider efficacement pour les jeunes ce qu'ils voient – ou ne voient pas voir – en ligne. Cela donnerait également aux parents la possibilité de supprimer entièrement le compte de leur enfant s'ils ne sont pas satisfaits de leur utilisation de la plate-forme.

La réponse à notre manque d'intimité n'est pas plus de suivi. 

Le projet de loi s'attaque aux systèmes algorithmiques en exigeant que les plateformes fournissent "un aperçu de la manière dont les systèmes de recommandation algorithmique sont utilisés… pour fournir des informations aux utilisateurs de la plateforme qui sont mineurs, y compris la manière dont ces systèmes utilisent les données personnelles appartenant aux mineurs". La transparence sur le fonctionnement des algorithmes d'une plateforme et les outils permettant aux utilisateurs d'ouvrir et de créer leurs propres flux sont essentiels pour une compréhension plus large de la curation algorithmique, du type de contenu qu'elle peut inciter et des conséquences qu'elle peut avoir. EFF a également soutenu le fait de donner aux utilisateurs plus de contrôle sur le contenu qu'ils voient en ligne. Mais KOSA exige que les parents puissent refuser ou rétrograder des types ou des catégories de recommandations, sans le consentement ou la connaissance de l'utilisateur, y compris les utilisateurs adolescents.

Enfin, sous KOSA, les plates-formes seraient tenues d'empêcher les modes d'utilisation indiquant une dépendance et d'offrir aux parents la possibilité de limiter les fonctionnalités qui «augmentent, maintiennent ou étendent l'utilisation de la plate-forme couverte par un mineur, telles que la lecture automatique de médias. , des récompenses pour le temps passé sur la plateforme et des notifications. » Bien que la minimisation des schémas sombres qui peuvent inciter les utilisateurs à divulguer des informations personnelles soit un objectif louable, il est très difficile de déterminer quelles fonctionnalités « provoquent une dépendance ». Si un jeune de seize ans passe trois heures par jour sur Discord à faire ses devoirs ou à discuter de musique avec ses amis, cela pourrait-il être qualifié de comportement « addictif » ? KOSA couvrirait probablement des fonctionnalités aussi différentes que la lecture automatique des épisodes de Netflix et les nouvelles notifications de message d'iMessage. En rassemblant ces caractéristiques sous le titre de « dépendance », on comprend mal quels schémas sombres nuisent réellement aux utilisateurs, y compris les jeunes.

L'EFF soutient depuis longtemps une législation complète sur la confidentialité des données pour tous les utilisateurs. Mais le Kids Online Safety Act ne protégerait pas la vie privée des enfants ou des adultes. Il s'agit d'un plan autoritaire visant à forcer les entreprises technologiques à espionner les jeunes et à les empêcher d'accéder à du contenu qui n'est «pas dans leur meilleur intérêt», tel que défini par le gouvernement et interprété par les plateformes technologiques.