La réalité augmentée doit avoir une confidentialité augmentée

Imaginez marcher dans la rue, à la recherche d'une bonne tasse de café. Au loin, une devanture de magasin brille en vert à travers vos lunettes intelligentes, indiquant un café bien évalué avec un score de santé publique remarquable. Vous suivez les flèches holographiques jusqu'au passage pour piétons, alors que vos appareils portables signalent silencieusement les voitures autonomes pour être sûr qu'elles s'arrêtent sur votre droit de passage. Dans la foule devant vous, vous reconnaissez quelqu'un, mais vous n'arrivez pas à le placer. Une question et une réponse plus tard, «Cameron» apparaît au-dessus de leur tête, avec le contexte nécessaire pour se souvenir qu'ils étaient un camarade de classe de l'université. Vous les saluez, chacun de vous heureux d'éviter la gêne de ne pas se souvenir d'une connaissance.

C'est de la science-fiction, parfois utopique, mais souvent comme un avertissement contre une dystopie. Se cacher dans chaque gadget qui peut améliorer votre vie est un danger pour la vie privée et la sécurité. Dans les deux cas, la réalité augmentée se rapproche d'une réalité quotidienne.

En 2013, Google Glass a suscité un contrecoup , mais la promesse de la réalité augmentée apportant des modèles 3D et des interfaces informatiques dans le monde physique (tout en enregistrant tout dans le processus) réémerge. Tout comme le tollé du public à propos de la vie privée et de l'enregistrement «permanent». Au cours des sept dernières années, les entreprises font toujours pression pour des lunettes de réalité augmentée, qui afficheront des images et des données numériques que les gens peuvent voir à travers leurs lunettes. La société chinoise Nreal , Facebook et Apple expérimentent une technologie similaire.

Numériser le monde en 3D

Plusieurs technologies évoluent pour créer une carte en direct de différentes parties de notre monde, de la réalité augmentée ou virtuelle aux véhicules autonomes. Ils créent des « modèles à l'échelle 1: 1 lisibles par machine » du monde qui sont continuellement mis à jour en temps réel. Certains implémentent de tels modèles à travers des nuages ​​de points , un jeu de données de points provenant d'un scanner pour recréer les surfaces (pas l'intérieur) des objets ou d'un espace. Chaque point a trois coordonnées pour les positionner dans l'espace. Pour donner un sens aux millions (ou milliards) de points, un logiciel avec Machine Learning peut aider à reconnaître les objets à partir des nuages ​​de points – qui ressemblent exactement à une réplique numérique du monde ou à une carte de votre maison et de tout ce qui s'y trouve.

La promesse de créer un clone numérique 3D persistant du monde aligné sur les coordonnées du monde réel porte de nombreux noms: « jumeau numérique du monde », « univers numérique parallèle », « Mirrorworld », « The Spatial Web », « Magic Verse ». ou un «métaverse». Quel que soit votre nom, ce nouveau monde numérique parallèle introduira un nouveau monde de problèmes de confidentialité , même pour ceux qui choisissent de ne jamais le porter. Par exemple, Facebook Live Maps cherchera à créer une carte virtuelle partagée. LiveMaps s'appuiera sur les cartes des utilisateurs collectées par les futurs appareils AR avec une fonctionnalité de cartographie client. Open AR , un AR Cloud interopérable, et Azure Digital Twins de Microsoft cherchent à modéliser et créer une représentation numérique d'un environnement.

Le projet Aria de Facebook poursuit cette tendance et aidera Facebook à enregistrer des cartes 3D en direct et à développer des modèles d'IA pour la première génération d'appareils portables de réalité augmentée de Facebook. Le caractère unique d'Aria, contrairement aux voitures autonomes, est la collecte de données «égocentriques» sur l'environnement – les données d'enregistrement viendront du point de vue des porteurs; un type de données plus «intime». Project Aria est également un outil et un logiciel de cartographie en direct 3D avec un outil de développement d'IA, pas un prototype de produit, ni un appareil AR en raison du manque d'affichage . "Selon Facebook, les lunettes de recherche d'Aria, qui ne sont pas à vendre , ne sera porté que par le personnel et les sous-traitants de Facebook formés pour collecter des données du point de vue du porteur. Par exemple, si le porteur de l'AR enregistre un bâtiment et que le bâtiment brûle plus tard, la prochaine fois qu'un porteur d'AR passe, l'appareil peut détecter le changement et mettre à jour la carte 3D en temps réel.

Un portail sur les menaces de confidentialité augmentées

En termes de capteurs , Aria comprendra entre autres un magnétomètre, un baromètre, une puce GPS et deux unités de mesure inertielle (IMU). Ensemble, ces capteurs suivront où se trouve le porteur (emplacement), où le porteur se déplace (mouvement) et ce que le porteur regarde (orientation) – un moyen beaucoup plus précis de localiser l'emplacement du porteur. Bien que le GPS ne fonctionne pas souvent à l'intérieur d'un bâtiment, par exemple, une IMU sophistiquée peut permettre à un récepteur GPS de bien fonctionner à l'intérieur lorsque les signaux GPS ne sont pas disponibles.

Un algorithme d'apprentissage automatique construira un modèle de l'environnement, basé sur toutes les données d'entrée collectées par le matériel, pour reconnaître des objets précis et cartographier en 3D votre espace et les choses qu'il contient. Il peut estimer les distances, par exemple, la distance entre le porteur et un objet. Il peut également identifier le contexte et les activités des porteurs: lisez-vous un livre? Votre appareil peut alors vous proposer une recommandation de lecture.

Le droit des spectateurs à la vie privée

Imaginez un avenir où toute personne que vous voyez porter des lunettes pourrait enregistrer vos conversations avec des microphones et des caméras «toujours allumés», mettant à jour la carte de l'endroit où vous vous trouvez avec précision et en temps réel. Dans cette dystopie, la possibilité d'être enregistré plane sur chaque promenade dans le parc, chaque conversation dans un bar et, en fait, tout ce que vous faites à proximité d'autres personnes.

Pendant la phase de recherche d'Aria, Facebook enregistrera l'interaction de ses propres entrepreneurs avec le monde. Il prend certaines précautions . Il demande les préoccupations des propriétaires avant d'enregistrer dans des lieux privés tels qu'un bar ou un restaurant. Il évite les zones sensibles, comme les toilettes et les manifestations. Il brouille les visages et les plaques d'immatriculation des gens. Pourtant, il existe encore de nombreuses autres façons d'identifier les individus, des tatouages ​​à la démarche des gens, et celles-ci devraient également être obscurcies.

Ces protections contre le flou reflètent celles utilisées par d'autres mécanismes de cartographie publics tels que Google Street View. Celles-ci se sont avérées raisonnables – mais loin d'être infaillibles – pour la protection de la vie privée des spectateurs. Google Street View a également l'avantage de se concentrer sur les objets, qui ne nécessitent qu'un enregistrement occasionnel. On ne sait pas si ces protections restent adéquates pour les enregistrements perpétuels provenant de la foule, qui se concentrent sur les interactions humaines. Une fois que Facebook et d'autres sociétés de RA sortiront leur première génération d'appareils de RA, il faudra probablement des efforts concertés de la part de la société civile pour maintenir les techniques d'obscurcissement comme le flou dans les produits commerciaux. Nous espérons que ces produits ne superposent pas des technologies d'identification robustes, telles que la reconnaissance faciale, au-dessus de l'interface AR existante.

Le Panopticon AR

Si les lunettes AR avec des caméras audio «toujours actives» ou de puissants capteurs de cartographie 3D sont massivement adoptées, la portée et l'ampleur du problème changent également. Désormais, l'entreprise derrière tout système AR pourrait avoir une fenêtre audio / visuelle en direct sur tous les coins du monde, avec la possibilité de localiser et d'identifier n'importe qui à tout moment, surtout si des technologies de reconnaissance faciale ou autres sont incluses dans le package. Le résultat? Une société panoptique mondiale de surveillance constante dans les espaces publics ou semi-publics.

Dans les temps modernes, le panoptique est devenu une métaphore d'un état de surveillance dystopique, où le gouvernement a des caméras observant chacune de vos actions. Pire encore, vous ne savez jamais si vous êtes une cible, car les forces de l'ordre se tournent vers les nouvelles technologies pour approfondir leur capacité déjà riche à surveiller nos vies .

Protection juridique contre le panoptique

Pour lutter contre cette dystopie, et notamment l'accès du gouvernement à ce panoptique, notre première ligne de défense aux États-Unis est la Constitution. Partout dans le monde, nous bénéficions tous de la protection du droit international des droits de l'homme . La semaine dernière, nous vous avons expliqué comment la police doit revenir avec un mandat avant de procéder à une fouille des représentations virtuelles de vos espaces privés. Alors que la mesure et la modélisation de la RA dans les espaces publics et semi-publics sont différentes des espaces privés, les principes constitutionnels et internationaux fondamentaux des droits de l'homme offrent toujours une protection juridique significative contre l'accès de la police.

Dans Carpenter c. États-Unis , la Cour suprême des États-Unis a reconnu les problèmes de confidentialité liés à la compréhension des risques des nouvelles technologies, avertissant les tribunaux de «faire preuve de prudence… pour s'assurer que nous n'embarrassons pas l'avenir». »

Pour ne pas embarrasser l'avenir, nous devons reconnaître que tout au long de l'histoire, les gens ont bénéficié d'un anonymat et d'une confidentialité efficaces lorsqu'ils mènent des activités dans des espaces publics ou semi-publics. Comme l' a clairement indiqué le rapporteur des Nations Unies sur la liberté d'expression , l'anonymat est un «désir humain commun de protéger son identité de la foule …» De même, le Conseil de l'Europe a reconnu que si toute personne se déplaçant dans les lieux publics peut s'attendre à un degré moindre de la vie privée, «ils ne s'attendent pas et ne devraient pas s'attendre à être privés de leurs droits et libertés, y compris ceux liés à leur propre sphère privée.» De même, la Cour européenne des droits de l'homme a reconnu qu'une «zone d'interaction d'une personne avec autrui, même dans un contexte public, peut entrer dans le champ de la« vie privée ». Même dans les lieux publics, «l'enregistrement systématique ou permanent et le traitement ultérieur des images pourraient soulever des questions touchant la vie privée des individus». Il y a plus de quarante ans, dans Katz c. États-Unis , la Cour suprême des États-Unis a également reconnu que «ce [qu'on] cherche à préserver comme privé, même dans une zone accessible au public, peut être protégé par la Constitution».

Cela a du sens parce que les limites naturelles de la mémoire humaine rendent difficile la mémorisation des détails sur les personnes que nous rencontrons dans la rue; ce qui nous offre effectivement un certain niveau de confidentialité et d'anonymat dans les espaces publics. Les appareils électroniques, cependant, peuvent parfaitement se souvenir et rassembler ces souvenirs dans une base de données centralisée pour être potentiellement utilisés par les entreprises et les acteurs étatiques. Déjà, ce sentiment de confidentialité a été érodé par les réseaux de caméras publiques, les caméras omniprésentes pour téléphones portables, les lecteurs de plaques d'immatriculation et les trackers RFID, nécessitant des protections juridiques . En effet, la Cour européenne des droits de l'homme exige «des règles détaillées claires …, d'autant plus que la technologie disponible [est] de plus en plus sophistiquée».

Si les lunettes intelligentes deviennent aussi courantes que les smartphones, nous risquons de perdre encore plus l'intimité des foules. Des enregistrements beaucoup plus détaillés de nos actions publiques sensibles, y compris aller à un rassemblement politique ou à une manifestation, ou même aller à une église ou au cabinet d'un médecin, peuvent être inscrits dans votre dossier permanent.

Ce problème technologique a été porté à l'ère moderne dans United States v. Jones , où la Cour suprême a statué que le suivi GPS d'un véhicule était une fouille, sous réserve de la protection du quatrième amendement. Jones était une décision alambiquée, avec trois opinions séparées soutenant ce résultat. Mais parmi les trois, il y avait cinq juges – une majorité – qui ont statué que le suivi GPS prolongé violait l'attente raisonnable de vie privée de Jones, malgré que Jones conduisait en public où un policier aurait pu le suivre dans une voiture. Le juge Alito a expliqué la différence, dans son opinion concordante (avec les juges Ginsburg, Breyer et Kagan):

À l'ère pré-informatique, les plus grandes protections de la vie privée n'étaient ni constitutionnelles ni statutaires, mais pratiques. La surveillance traditionnelle pendant une période prolongée était difficile et coûteuse et donc rarement entreprise. … Seule une enquête d'une importance inhabituelle aurait pu justifier une telle dépense de moyens répressifs. Des dispositifs comme celui utilisé dans le cas présent, cependant, rendent la surveillance à long terme relativement facile et bon marché.

L' analyse de Jones reconnaît que l'utilisation par la police de la technologie de surveillance automatisée pour suivre systématiquement nos mouvements dans les lieux publics bouleverse l'équilibre du pouvoir protégé par la Constitution et viole les normes sociétales de la vie privée qui sont fondamentales pour la société humaine.

Dans Carpenter , la Cour suprême a étendu Jones au suivi des déplacements des personnes grâce aux informations de localisation des sites cellulaires (CSLI). Carpenter a reconnu que «lorsque le gouvernement suit l'emplacement d'un téléphone portable, il réalise une surveillance presque parfaite comme s'il avait attaché un moniteur de cheville à l'utilisateur du téléphone». La Cour a rejeté l'argument du gouvernement selon lequel, selon la troublante «doctrine des tiers», M. Carpenter n'avait aucune attente raisonnable en matière de respect de la vie privée dans son CSLI parce qu'il l'avait déjà divulgué à un tiers, à savoir son fournisseur de services téléphoniques.

La RA est encore plus envahissante pour la confidentialité que le GPS et le CSLI

Comme les appareils GPS et CSLI, les appareils AR sont une technologie automatisée qui documente systématiquement ce que nous faisons. La RA déclenche donc une forte protection du quatrième amendement. Bien sûr, les appareils AR omniprésents fourniront une surveillance encore plus parfaite, par rapport au GPS et au CSLI, non seulement en suivant les informations de l'utilisateur, mais en obtenant une fenêtre révélatrice sur la vie de tous les spectateurs autour de l'utilisateur.

Avec suffisamment de lunettes intelligentes dans un endroit, on pourrait créer une machine à remonter le temps virtuelle pour revisiter ce moment précis dans le temps et dans l'espace. C'est précisément ce qui concernait le tribunal des charpentiers :

le gouvernement peut désormais remonter le temps pour retracer les allées et venues d'une personne, sous réserve uniquement des politiques de conservation des entreprises de télécommunications sans fil, qui conservent actuellement des dossiers pendant cinq ans. De manière critique, parce que les informations de localisation sont continuellement enregistrées pour tous les 400 millions d'appareils aux États-Unis – pas seulement ceux appartenant à des personnes susceptibles de faire l'objet d'une enquête – cette nouvelle capacité de suivi va à l'encontre de tout le monde.

De même, il a t Rapporteur spécial sur la protection des droits de l' homme a expliqué qu'un-it-all Collect approche est incompatible avec le droit à la vie privée:

En bref, il est incompatible avec les concepts existants de vie privée pour les États de collecter toutes les communications ou métadonnées à tout moment sans discrimination. L'essence même du droit à la confidentialité des communications est que les violations doivent être exceptionnelles et justifiées au cas par cas.

AR est le suivi de localisation sur les stéroïdes. La RA peut être améliorée par des superpositions telles que la reconnaissance faciale, transformant les lunettes intelligentes en un outil d'identification puissant capable de fournir un profil riche et instantané de toute personne aléatoire dans la rue, au porteur, à une base de données massive et à tout agent d'entreprise ou gouvernemental (ou voleur de données) qui peut accéder à cette base de données. Avec des analyses visuelles émergentes et non prouvées supplémentaires (tout de l'analyse d'agression à la détection de mensonge basée sur les expressions faciales est proposé), cette technologie pose une menace vraiment stupéfiante de surveillance et de partialité.

Ainsi, la nécessité de telles garanties juridiques, comme l'exige l' affaire Canada c. Union européenne , est «d'autant plus grande lorsque les données personnelles font l'objet d'un traitement automatisé. Ces considérations s'appliquent en particulier lorsque la protection de la catégorie particulière de données à caractère personnel qui sont des données sensibles est en jeu. »

La réalité augmentée exposera notre vie publique, sociale et intérieure d'une manière peut-être encore plus invasive que le «montage révélateur de la vie de l'utilisateur» du smartphone que la Cour suprême a protégé dans Riley v Californie . Il est donc essentiel que les tribunaux, les législateurs et les cadres exécutifs reconnaissent que le gouvernement ne peut pas accéder aux documents générés par la RA sans mandat.

Les entreprises peuvent également envahir la confidentialité de la RA

Encore plus, doit être fait pour se protéger contre une descente dans la dystopie AR. Les fabricants et les prestataires de services doivent résister à l'envie, trop courante dans la Silicon Valley, de «tout collecter», au cas où les données seraient utiles plus tard. Au lieu de cela, moins les entreprises collectent et stockent de données maintenant, moins le gouvernement peut saisir de données plus tard.

C'est pourquoi les entreprises de technologie devraient non seulement protéger le droit à la vie privée de leurs utilisateurs contre la surveillance gouvernementale, mais également le droit de leurs utilisateurs à la protection des données. Les entreprises doivent donc collecter, utiliser et partager les données RA de leurs utilisateurs uniquement de la manière la plus minimale nécessaire pour fournir le service spécifique demandé par leurs utilisateurs. Les entreprises devraient également limiter la quantité de données transitant vers le cloud et la période de conservation, tout en investissant dans une sécurité robuste et un cryptage fort, avec des clés détenues par l'utilisateur, pour donner à l'utilisateur le contrôle des informations collectées. De plus, nous avons besoin de politiques de transparence fortes, énonçant explicitement les finalités et les moyens du traitement des données, et permettant aux utilisateurs d'accéder et de porter en toute sécurité leurs données.

De même, les législatures devraient se tourner vers l'avenir de la réalité augmentée et accroître nos protections contre les excès du gouvernement et des entreprises. Le Congrès a adopté la Loi sur l' écoute électronique pour donner une protection supplémentaire aux appels téléphoniques en 1968, et a étendu les protections statutaires aux courriels et aux enregistrements des abonnés en 1986 avec la Loi sur la confidentialité des communications électroniques . De nombreuses juridictions ont des lois sur l'écoute clandestine qui exigent le consentement de toutes les parties avant d'enregistrer une conversation. De même, les caméras cachées et les lois sur les paparazzis peuvent limiter la prise de photos et l'enregistrement de vidéos, même dans des lieux ouverts au public, bien qu'ils restent généralement silencieux sur la surveillance avancée possible avec des technologies comme la cartographie spatiale. La modernisation de ces garanties statutaires de confidentialité, avec de nouvelles lois comme CalECPA , a pris du temps et reste incomplète.

Grâce à une politique solide, une transparence robuste, des tribunaux avisés, des statuts modernisés et une ingénierie de la protection de la vie privée dès la conception, nous pouvons et devons avoir une réalité augmentée avec une confidentialité accrue. L'avenir est demain, alors faisons-en un avenir dans lequel nous voudrions vivre.