Nouvelles

Jan 12, 2024

Les informaticiens qui conçoivent l'avenir ne peuvent pas s'entendre sur ce que signifie la confidentialité

Des chercheurs de l'Université Carnegie Mellon ont voulu créer un environnement préservant la vie privée

Des chercheurs de l'Université Carnegie Mellon ont voulu créer un capteur intelligent préservant la confidentialité. Ensuite, ils ont été accusés d'avoir violé la vie privée de leurs collègues.

Lorsque les étudiants en informatique et les professeurs de l'Institute for Software Research de l'Université Carnegie Mellon sont revenus sur le campus à l'été 2020, il y avait beaucoup à faire.

Au-delà de l'inévitable étrangeté de se retrouver à nouveau avec des collègues après des mois de distanciation sociale, le département emménageait également dans un tout nouveau bâtiment : le TCS Hall ultramoderne de 90 000 pieds carrés.

Les caractéristiques futuristes de la salle comprenaient des capteurs de dioxyde de carbone qui acheminent automatiquement de l'air frais, un jardin pluvial, une cour pour robots et drones et des dispositifs expérimentaux de super-détection appelés Mites. Montés à plus de 300 endroits dans le bâtiment, ces appareils de la taille d'un interrupteur peuvent mesurer 12 types de données, y compris le mouvement et le son. Des acariens ont été incrustés sur les murs et les plafonds des couloirs, dans les salles de conférence et dans les bureaux privés, le tout dans le cadre d'un projet de recherche sur les bâtiments intelligents dirigé par le professeur CMU Yuvraj Agarwal et le doctorant Sudershan Boovaraghavan et comprenant un autre professeur, Chris Harrison.

"L'objectif global de ce projet", a expliqué Agarwal lors d'une réunion publique en avril 2021, est de "construire une infrastructure IoT [Internet des objets] sûre, sécurisée et facile à utiliser", faisant référence à un réseau d'objets physiques équipés de capteurs tels que des ampoules intelligentes, des thermostats et des téléviseurs qui peuvent se connecter à Internet et partager des informations sans fil.

Tout le monde n'était pas content de trouver le bâtiment plein d'acariens. Certains membres du ministère ont estimé que le projet violait leur vie privée plutôt que de la protéger. En particulier, les étudiants et les professeurs dont les recherches se concentraient davantage sur les impacts sociaux de la technologie ont estimé que le microphone, le capteur infrarouge, le thermomètre et six autres capteurs de l'appareil, qui ensemble pouvaient au moins détecter quand un espace était occupé, les soumettraient à une surveillance expérimentale sans leur consentement.

"Ce n'est pas bien de les installer par défaut", déclare David Widder, doctorant en dernière année en génie logiciel, qui est devenu l'une des voix les plus virulentes du département contre les acariens. "Je ne veux pas vivre dans un monde où l'installation par un employeur de capteurs en réseau dans votre bureau sans vous demander au préalable est un modèle à suivre pour d'autres organisations."

Tous les utilisateurs de technologie sont confrontés à des questions similaires sur comment et où tracer une ligne personnelle en matière de confidentialité. Mais en dehors de nos propres maisons (et parfois en leur sein), nous manquons de plus en plus d'autonomie sur ces décisions. Au lieu de cela, notre vie privée est déterminée par les choix des personnes qui nous entourent. Entrer dans la maison d'un ami, dans un magasin de détail ou simplement dans une rue publique nous expose à de nombreux types de surveillance différents sur lesquels nous avons peu de contrôle.

Dans un contexte de surveillance en plein essor sur le lieu de travail, de collecte de données prolifique, d'augmentation des risques de cybersécurité, de préoccupations croissantes concernant la confidentialité et les technologies intelligentes, et d'une dynamique de pouvoir tendue autour de la liberté d'expression dans les établissements universitaires, Mites est devenu un paratonnerre au sein de l'Institute for Software Research.

Les voix des deux côtés de la question étaient conscientes que le projet Mites pourrait avoir un impact bien au-delà de TCS Hall. Après tout, Carnegie Mellon est une université de recherche de premier plan en science, technologie et ingénierie, et la façon dont elle gère cette recherche peut influencer la façon dont les capteurs seront déployés ailleurs. "Lorsque nous faisons quelque chose, les entreprises… [et] les autres universités écoutent", déclare Widder.

En effet, les chercheurs de Mites espéraient que le processus qu'ils avaient suivi "pourrait en fait être un modèle pour les petites universités" cherchant à faire des recherches similaires, explique Agarwal, professeur agrégé en informatique qui développe et teste l'apprentissage automatique pour les appareils IoT depuis une décennie.

Mais la question cruciale est de savoir ce qui se passera si - ou quand - les super-capteurs sortent de Carnegie Mellon, sont commercialisés et se retrouvent dans les bâtiments intelligents du monde entier.

Le conflit est, en substance, une tentative de l'un des meilleurs départements d'informatique au monde de plaider des questions épineuses concernant la confidentialité, l'anonymat et le consentement. Mais il s'est détérioré d'une discussion académique à une dispute amère, avec des accusations d'intimidation, de vandalisme, de désinformation et de représailles sur le lieu de travail. Comme dans tant de conversations sur la vie privée, les deux parties se sont parlées, avec des conceptions apparemment incompatibles de ce que signifie la vie privée et du moment où le consentement devrait être requis.

En fin de compte, si les personnes dont les recherches définissent l'agenda des choix technologiques ne parviennent pas à un consensus sur la confidentialité, où cela nous mène-t-il ?

Le projet Mites reposait sur deux prémisses de base : premièrement, les bâtiments du monde entier collectent déjà des données sans protection standard de la vie privée et continueront de le faire. Et deuxièmement, que la meilleure solution est de construire de meilleurs capteurs, plus utiles, plus efficaces, plus sûrs et mieux intentionnés.

En d'autres termes, les acariens.

"Ce dont nous avons vraiment besoin", explique Agarwal, c'est de "construire des systèmes de sécurité, de confidentialité et de sécurité avant tout… de nous assurer que les utilisateurs ont confiance dans ces systèmes et comprennent la proposition de valeur claire".

"Je préférerais [nous] le dirigeons plutôt que Google ou ExxonMobil", ajoute Harrison, professeur agrégé d'interaction homme-machine et collaborateur du corps professoral sur le projet, faisant référence à la recherche sur les capteurs. (Google a financé les premières itérations de la recherche qui a conduit à Mites, tandis que JPMorgan Chase fournit "un soutien généreux à la recherche sur les bâtiments intelligents au TCS Hall", comme indiqué sur les plaques accrochées autour du bâtiment.)

Les acariens - le nom fait référence à la fois aux appareils individuels et à la plate-forme globale - sont des capteurs tout-en-un pris en charge par une pile matérielle et un traitement des données sur l'appareil. Alors qu'Agarwal dit qu'ils n'ont pas été nommés d'après la petite créature, le logo sur le site Web du projet représente un bogue.

Selon les chercheurs, les acariens représentent une amélioration significative par rapport aux capteurs de bâtiment actuels, qui ont généralement un objectif unique, comme les détecteurs de mouvement ou les thermomètres. De plus, de nombreux appareils intelligents ne fonctionnent aujourd'hui souvent que de manière isolée ou avec des plates-formes spécifiques comme Nest de Google ou Alexa d'Amazon ; ils ne peuvent pas interagir les uns avec les autres.

De plus, les systèmes IoT actuels offrent peu de transparence sur les données exactes collectées, la manière dont elles sont transmises et les protocoles de sécurité en place, tout en péchant par excès de collecte.

Les chercheurs espéraient que Mites comblerait ces lacunes et faciliterait de nouvelles utilisations et applications pour les capteurs IoT. Par exemple, les microphones sur les acariens pourraient aider les étudiants à trouver une pièce calme pour étudier, ont-ils déclaré – et Agarwal a suggéré lors de la réunion de la mairie en avril 2021 que le détecteur de mouvement pourrait dire à un occupant du bureau si le personnel de garde nettoyait réellement les bureaux chaque nuit. (Les chercheurs ont depuis déclaré qu'il s'agissait d'un cas d'utilisation suggéré spécifique aux protocoles covid-19 et que cela pourrait aider le personnel de nettoyage à se concentrer sur les zones à fort trafic, mais ils se sont éloignés de cette possibilité.)

Les chercheurs pensent également qu'à long terme, les acariens - et plus généralement les capteurs de construction - sont essentiels à la durabilité environnementale. Ils voient également d'autres cas d'utilisation plus ambitieux. Un article universitaire décrit ce scénario : En 2050, une femme commence à perdre la mémoire. Son médecin suggère d'installer des acariens autour de sa maison pour "se connecter à des haut-parleurs intelligents et lui dire quand sa lessive est faite et quand elle a laissé le four allumé" ou pour évaluer son sommeil en notant le bruit des draps froissés ou des allers-retours nocturnes à la salle de bain. "Ils sont utiles pour Emily, mais encore plus utiles pour son médecin", affirme l'article.

En tant qu'appareils polyvalents intégrés à une plate-forme, les acariens étaient censés résoudre toutes sortes de problèmes sans aller trop loin dans la collecte de données. Chaque appareil contient neuf capteurs qui peuvent capter toutes sortes d'informations ambiantes sur une pièce, y compris le son, la lumière, les vibrations, le mouvement, la température et l'humidité, soit une douzaine de types de données différents en tout. Pour protéger la vie privée, il ne capture pas de vidéo ou de photos.

Les chercheurs du CMU ne sont pas les premiers à tenter un tel projet. Une initiative de recherche IoT du Massachusetts Institute of Technology, également appelée MITes, a conçu des capteurs portables pour collecter des données environnementales telles que le mouvement et la température. Il s'est déroulé de 2005 à 2016, principalement dans le cadre de PlaceLab, un laboratoire expérimental inspiré d'un appartement dans lequel des volontaires soigneusement sélectionnés ont consenti à vivre et à faire étudier leurs interactions. Les projets MIT et CMU ne sont pas liés. (MIT Technology Review est financé en partie par le MIT mais conserve son indépendance éditoriale.)

Les chercheurs de Carnegie Mellon affirment que le système Mites n'extrait qu'une partie des données collectées par les appareils, via un processus technique appelé « caractérisation ». Cela devrait rendre plus difficile la traçabilité, par exemple, d'une voix jusqu'à un individu.

L'apprentissage automatique - qui, grâce à une technique appelée informatique de pointe, aurait finalement lieu sur l'appareil plutôt que sur un serveur centralisé - reconnaît alors les données entrantes comme le résultat de certaines activités. L'espoir est qu'un ensemble particulier de vibrations puisse être traduit en temps réel, par exemple, par un train qui passe.

Les chercheurs affirment que la caractérisation et d'autres types d'informatique de pointe rendront les acariens plus protégeant la vie privée, car ces technologies minimisent la quantité de données qui doivent être envoyées, traitées et stockées dans le cloud. (Pour le moment, l'apprentissage automatique se déroule toujours sur un serveur séparé sur le campus.)

"Notre vision est qu'il y a un capteur pour les gouverner tous, si vous avez vu le Seigneur des Anneaux. L'idée est plutôt que cette collection hétérogène de capteurs, vous avez un capteur qui se trouve dans un boîtier de deux pouces sur deux pouces", a expliqué Agarwal à la mairie d'avril 2021, selon un enregistrement de la réunion partagé avec MIT Technology Review.

Mais si la réponse du département est une indication, peut-être qu'un anneau de pouvoir permettant à son porteur de dominer les autres n'était pas la meilleure analogie.

À moins que vous ne les recherchiez, vous ne savez peut-être pas que le TCS Hall lumineux et aéré, à l'extrémité ouest du campus de Carnegie Mellon à Pittsburgh, est couvert d'appareils Mites, dont 314 en février 2023, selon Agarwal.

Mais regardez attentivement, et ils sont là : de petits circuits imprimés carrés enfermés dans du plastique et montés sur des plaques d'interrupteurs d'éclairage standard. Ils sont situés à l'intérieur des entrées des salles communes et des bureaux, près des thermostats et des commandes d'éclairage, et dans les plafonds.

Les seuls endroits du TCS Hall qui sont exempts d'acariens, en fait, sont les salles de bains et le cinquième étage, où Tata Consultancy Services, la multinationale informatique indienne qui a fait don de 35 millions de dollars pour financer le bâtiment portant son nom, gère un centre de recherche et d'innovation. (Un porte-parole a déclaré: "TCS n'est pas impliqué dans le projet Mites.")

Widder, dont la thèse de doctorat se concentre sur la façon d'aider les développeurs d'IA à réfléchir à leur responsabilité dans les dommages que leur travail pourrait causer, se souvient avoir découvert les capteurs Mites dans son bureau à l'automne 2020. Et une fois qu'il les a remarqués, il ne pouvait pas ignorer les dispositifs clignotants montés sur son mur et son plafond, ou les deux sur le plafond du couloir juste devant sa porte.

Widder ne savait pas non plus immédiatement comment éteindre les appareils ; ils n'avaient pas d'interrupteur marche-arrêt. (En fin de compte, ses tentatives pour forcer cette exclusion menaceraient de faire dérailler sa carrière.)

C'était un problème pour l'éthicien en herbe de la technologie. Les travaux universitaires de Widder explorent la manière dont les développeurs de logiciels réfléchissent aux implications éthiques des produits qu'ils créent ; il s'intéresse particulièrement à aider les informaticiens à comprendre les conséquences sociales de la technologie. Et donc Mites était une préoccupation à la fois professionnelle et personnelle. Les mêmes problèmes de surveillance et de consentement éclairé qu'il aidait les informaticiens à résoudre avaient trouvé leur chemin jusque dans son bureau.

La CMU n'est pas la seule université à tester de nouvelles technologies sur le campus avant de les envoyer dans le monde entier. Les campus universitaires sont depuis longtemps un foyer de recherche, avec des politiques parfois discutables en matière de consentement. Timnit Gebru, éthicien en technologie et fondateur du Distributed AI Research Institute, cite les premières recherches sur la reconnaissance faciale qui ont été fondées sur des données de surveillance recueillies par des chercheurs universitaires. "Un grand nombre des pratiques problématiques en matière de données que nous voyons dans l'industrie ont d'abord été réalisées dans le monde de la recherche, puis elles sont ensuite transmises à l'industrie", dit-elle.

C'est à travers cette lentille que Widder a vu Mites. "Je pense que la collecte de données non consensuelles pour la recherche… est généralement contraire à l'éthique. Les capteurs omniprésents installés dans les espaces privés et publics rendent la surveillance de plus en plus omniprésente normale, et c'est un avenir que je ne veux pas faciliter", dit-il.

Il a exprimé ses inquiétudes sur la chaîne Slack du département, dans des e-mails et lors de conversations avec d'autres étudiants et membres du corps professoral, et a découvert qu'il n'était pas seul. Beaucoup d'autres personnes ont été surprises d'apprendre l'existence du projet, dit-il, et beaucoup ont partagé ses questions sur l'utilisation des données du capteur et le moment où la collecte commencerait.

"Je ne suis pas encore allé au TCS Hall, mais je ressens la même chose … à propos des acariens", a écrit un autre membre du département sur Slack en avril 2021. "Je sais que je me sentirais plus à l'aise si je pouvais débrancher celui de mon bureau."

Les chercheurs disent qu'ils ont suivi les processus requis par l'université pour la collecte de données et ont reçu l'approbation après un examen par son comité d'examen institutionnel (IRB) et ses avocats. L'IRB – qui supervise la recherche dans laquelle des sujets humains sont impliqués, comme l'exige la réglementation fédérale américaine – avait fourni des commentaires sur la proposition de recherche sur les acariens avant d'approuver finalement le projet en mars. Selon une FAQ publique sur le projet, le conseil a déterminé que la simple installation de Mites et la collecte de données sur l'environnement ne nécessitaient pas l'approbation de la CISR ou le consentement préalable des occupants du TCS Hall, à l'exception de la collecte de données audio dans les bureaux privés, qui serait basé sur un processus de consentement "opt-in". L'approbation et le consentement seraient requis pour les étapes ultérieures du projet, lorsque les occupants du bureau utiliseraient une application mobile leur permettant d'interagir avec les données de Mites.

Les chercheurs de Mites ont également dirigé le projet par l'avocat général de l'université pour déterminer si l'utilisation de microphones dans les capteurs violait la loi de l'État de Pennsylvanie, qui exige le consentement des deux parties dans l'enregistrement audio. "Nous avons eu des discussions approfondies avec le bureau de l'avocat général de la CMU et ils ont vérifié que nous ne violons pas la loi sur l'écoute électronique de l'Autorité palestinienne", indique la FAQ du projet.

Les entreprises de robots aspirateurs disent que vos images sont en sécurité, mais une chaîne d'approvisionnement mondiale tentaculaire pour les données de nos appareils crée un risque.

Au total, l'Institut de recherche sur les logiciels, rebaptisé depuis Logiciels et systèmes sociétaux, a été scindé. Certaines de ses voix les plus puissantes, dont le directeur du département (et codirecteur de la thèse de Widder), James Herbsleb, ont encouragé les membres du département à soutenir la recherche. "Je tiens à répéter qu'il s'agit d'un projet très important… si vous voulez éviter un avenir où la surveillance est routinière et inévitable !" a-t-il écrit dans un mail peu après la mairie.

"La première étape consistait à… voir comment ces choses se comportent", explique Herbsleb, comparant les capteurs Mites aux détecteurs de mouvement que les gens pourraient vouloir tester. "C'est purement juste, 'Comment ça marche comme détecteur de mouvement?' Et, vous savez, personne n'a demandé son consentement. C'est juste essayer un morceau de matériel.

Bien sûr, les capacités avancées du système signifiaient que les acariens n'étaient pas seulement des détecteurs de mouvement, et d'autres membres du service voyaient les choses différemment. "C'est beaucoup demander aux gens d'avoir un capteur avec un microphone qui tourne dans leur bureau", explique Jonathan Aldrich, professeur d'informatique, même si "je fais confiance à mes collègues par principe et je pense qu'ils méritent cette confiance". Il ajoute : « Faire confiance à quelqu'un pour être un bon collègue n'est pas la même chose que de lui donner une clé de votre bureau ou de lui faire installer quelque chose dans votre bureau qui peut enregistrer des choses privées. Permettre à quelqu'un d'autre de contrôler un microphone dans votre bureau, dit-il, c'est "tout comme donner une clé à quelqu'un d'autre".

Au fur et à mesure que le débat se développait au cours de l'année suivante, il opposa également les étudiants à leurs conseillers et à leurs héros académiques, bien que beaucoup se soient opposés en privé, craignant les conséquences de s'élever contre un projet bien financé et soutenu par l'université.

Dans l'enregistrement vidéo de la mairie obtenu par MIT Technology Review, les participants ont demandé comment les chercheurs prévoyaient d'informer les occupants et les visiteurs du bâtiment de la collecte de données. Jessica Colnago, alors étudiante au doctorat, s'inquiétait de la façon dont la simple présence des acariens affecterait les études qu'elle menait sur la vie privée. "En tant que chercheuse sur la confidentialité, je me sentirais moralement obligée de parler à mon participant de la technologie dans la salle", a-t-elle déclaré lors de la réunion. Alors que "nous sommes tous des collègues ici" et que "nous nous faisons confiance", a-t-elle ajouté, "les participants extérieurs pourraient ne pas le faire".

Les participants voulaient également savoir si les capteurs pouvaient suivre la fréquence à laquelle ils venaient dans leurs bureaux et à quelle heure. "Je suis au bureau [X]", a déclaré Widder. "Le Mite sait qu'il enregistre quelque chose depuis le bureau [X], et m'identifie donc comme un occupant du bureau." Agarwal a répondu qu'aucune des analyses sur les données brutes ne tenterait de faire correspondre ces données avec des personnes spécifiques.

À un moment donné, Agarwal a également mentionné qu'il avait obtenu l'adhésion à l'idée d'utiliser des capteurs Mites pour surveiller le personnel de nettoyage, ce que certaines personnes dans le public ont interprété comme facilitant la surveillance algorithmique ou, à tout le moins, démontrant clairement la dynamique de pouvoir inégale en jeu.

Un système de capteurs qui pourrait être utilisé pour surveiller les travailleurs concernait Jay Aronson, professeur de science, de technologie et de société au département d'histoire et fondateur du Center for Human Rights Science, qui a pris connaissance de Mites après que Widder ait porté le projet à son attention. Le personnel universitaire, comme les employés administratifs et les employés des installations, est plus susceptible d'être affecté négativement et moins susceptible d'en tirer des avantages, a déclaré Aronson. "Les méfaits et les bénéfices ne sont pas équitablement répartis", a-t-il ajouté.

De même, les étudiants et les professeurs non titulaires n'avaient apparemment que très peu à gagner directement du projet Mites et faisaient face à des répercussions potentielles à la fois de la collecte de données elle-même et, craignaient-ils, de s'y opposer. Nous avons parlé avec cinq étudiants en plus de Widder qui se sentaient mal à l'aise à la fois avec le projet de recherche et avec l'expression de leurs préoccupations.

L'un de ces étudiants faisait partie d'une petite cohorte de 45 étudiants de premier cycle qui ont passé du temps au TCS Hall en 2021 dans le cadre d'un programme d'été destiné à les présenter au département alors qu'ils envisageaient de postuler à des programmes d'études supérieures. La réunion de la mairie a été la première fois que certains d'entre eux ont entendu parler des Mites. Certains se sont énervés, craignant d'être capturés sur vidéo ou enregistrés.

Mais les Mites n'enregistraient aucune vidéo. Et tout son capturé par les microphones était brouillé afin qu'il ne puisse pas être reconstitué.

En fait, les chercheurs disent que les acariens ne capturaient pas – et ne captent pas encore – de données utilisables du tout.

Pour les chercheurs, cette "désinformation" sur les données collectées, comme l'a décrit Boovaraghavan dans une interview avec MIT Technology Review, était l'une des plus grandes frustrations du projet.

Mais si la mairie était censée clarifier les détails du projet, elle a plutôt exacerbé une partie de cette confusion. Bien qu'un précédent fil de discussion interministériel ait clairement indiqué que les capteurs ne collectaient pas encore de données, cela a été perdu dans la discussion tendue. À certains moments, les chercheurs ont indiqué qu'aucune donnée n'était ou ne serait collectée sans l'approbation de l'IRB (qui avait été reçue le mois précédent), et à d'autres moments, ils ont déclaré que les capteurs ne collectaient que des "données de télémétrie" (essentiellement pour s'assurer qu'ils étaient sous tension et connectés) et que le microphone "est éteint dans tous les bureaux privés". (Dans une déclaration envoyée par e-mail au MIT Technology Review, Boovaraghavan a précisé que "les données ont été capturées dans les espaces privés ou publics des équipes de recherche, mais jamais dans les espaces des autres occupants".)

Pour certains qui n'étaient pas satisfaits, les données exactes que les capteurs capturaient actuellement n'étaient pas pertinentes. Peu importait que le projet ne soit pas encore pleinement opérationnel. Au lieu de cela, la préoccupation était que des capteurs plus puissants que tout ce qui était disponible auparavant avaient été installés dans des bureaux sans consentement. Bien sûr, les Mites ne collectaient pas de données à ce moment-là. Mais à une date encore non précisée par les chercheurs, ils pourraient l'être. Et les personnes concernées pourraient ne pas avoir leur mot à dire.

Widder dit que la mairie – et les réunions de suivi en tête-à-tête avec les chercheurs – l'ont en fait "plus préoccupé". Il attrapa son tournevis cruciforme. Il a débranché les Mites dans son bureau, dévissé les capteurs du mur et du plafond et retiré les câbles Ethernet de leurs prises.

Il a mis son Mite dans une boîte en plexiglas sur son étagère et a envoyé un e-mail à l'équipe de recherche, à ses conseillers et à la direction du département pour leur faire savoir qu'il avait débranché les capteurs, les avait gardés intacts et voulait les rendre. Avec d'autres membres du département, il a rédigé une lettre ouverte anonyme qui détaillait davantage ses préoccupations.

Le conflit au TCS Hall illustre ce qui rend la vie privée si difficile à gérer : c'est subjectif. Il n'y a pas de norme convenue pour ce que signifie la confidentialité ou quand exactement le consentement devrait être requis pour que des données personnelles soient collectées - ou ce qui compte même comme des données personnelles. Les gens ont des conceptions différentes de ce qui est acceptable. Le débat sur les acariens a mis en évidence les divergences entre les approches techniques de collecte de données d'une manière plus respectueuse de la vie privée et "l'aspect philosophique et social plus large de la vie privée", comme le dit Kyle Jones, professeur de bibliothéconomie et de sciences de l'information à l'Université de l'Indiana qui étudie la vie privée des étudiants dans l'enseignement supérieur.

Certaines questions clés dans les débats plus larges sur la vie privée ont été particulièrement puissantes tout au long du différend sur les acariens. Que signifie le consentement éclairé et dans quelles circonstances est-il nécessaire ? Quelles données peuvent réellement identifier quelqu'un, même si elles ne répondent pas aux définitions les plus courantes de "données personnellement identifiables" ? Et la mise en place de technologies et de processus de protection de la vie privée est-elle adéquate s'ils ne sont pas communiqués assez clairement aux utilisateurs ?

Pour les chercheurs, ces questions avaient une réponse simple : "Ma vie privée ne peut pas être envahie si, littéralement, aucune donnée n'est collectée à mon sujet", déclare Harrison.

Même ainsi, disent les chercheurs, des mécanismes de consentement étaient en place. "La possibilité d'éteindre le capteur en le demandant a été intégrée dès le départ. De même, la possibilité d'activer/désactiver n'importe quel capteur individuel sur n'importe quelle carte Mites a également été intégrée dès le départ", ont-ils écrit dans un e-mail.

Les détails sur la nouvelle Administration nationale des données chinoises sont encore à venir, y compris le degré de contrôle qu'elle aura sur la sécurité et la confidentialité des données.

Mais bien que la fonctionnalité ait pu exister, elle n'a pas été bien communiquée au département, comme l'a montré un échange interne Slack. "Le seul e-mail général qui a été envoyé ne fournissait pas de procédure pour les désactiver", a noté Aldrich.

Les étudiants avec qui nous avons parlé ont souligné la réalité selon laquelle les obliger à se retirer d'un projet de recherche de grande envergure, plutôt que de leur donner la possibilité d'y participer, ne tient pas compte de la dynamique du pouvoir universitaire. Dans un e-mail adressé au MIT Technology Review, Widder a déclaré qu'il ne croyait pas que l'option de retrait par demande par e-mail était valide, car de nombreux occupants du bâtiment n'en étaient pas conscients et parce que le retrait identifierait toute personne qui n'était pas d'accord avec la recherche.

Aldrich était également préoccupé par la technologie elle-même.

"Pouvez-vous … reconstruire le discours à partir de ce qu'ils ont fait? Il y a suffisamment de morceaux pour que cela soit théoriquement possible", dit-il. « L'[équipe de recherche] pense que c'est impossible, mais nous n'en avons pas la preuve, n'est-ce pas ? »

Mais une deuxième préoccupation était sociale : Aldrich dit que le projet ne le dérangeait pas jusqu'à ce qu'un collègue extérieur au département demande de ne pas se rencontrer au TCS Hall à cause des capteurs. Cela lui a fait changer d'avis. « Est-ce que je veux vraiment avoir quelque chose dans mon bureau qui empêchera un collègue de venir me rencontrer dans mon bureau ? La réponse était assez clairement non. Quoi que j'en pense, je ne voulais pas que cela dissuade quelqu'un d'autre de me rencontrer dans mon bureau, ou qu'il se sente mal à l'aise », dit-il.

L'équipe de Mites a affiché des panneaux autour du bâtiment - dans les couloirs, les espaces communs, les cages d'escalier et certaines pièces - expliquant ce qu'étaient les appareils et ce qu'ils collecteraient. Finalement, les chercheurs ont ajouté un code QR renvoyant au document FAQ de 20 pages du projet. Les panneaux étaient de petits papiers plastifiés de format lettre que certains visiteurs disaient faciles à manquer et difficiles à comprendre.

"Quand j'ai vu cela, je pensais juste, wow, c'est une très petite description de ce qui se passe", a noté l'un de ces visiteurs, Se A Kim, un étudiant de premier cycle qui a effectué plusieurs visites au TCS Hall au printemps 2022 pour une mission d'école de design pour explorer comment sensibiliser les visiteurs à la collecte de données dans les espaces publics du TCS. Lorsqu'elle a interrogé un certain nombre d'entre eux, elle a été surprise du nombre d'entre eux qui ignoraient encore l'existence des capteurs.

Une préoccupation répétée par les opposants à Mites est que même si le déploiement actuel de Mites n'est pas configuré pour collecter les données les plus sensibles, comme des photos ou des vidéos, et n'est pas destiné à identifier les individus, cela en dit peu sur les données qu'il pourrait collecter - ou avec quoi ces données pourraient être combinées - à l'avenir. Les chercheurs en confidentialité ont montré à plusieurs reprises que les données agrégées et anonymisées peuvent facilement être anonymisées.

C'est le plus souvent le cas avec des ensembles de données beaucoup plus volumineux, collectés, par exemple, par des smartphones. Les applications et les sites Web peuvent ne pas avoir le numéro de téléphone ou le nom du propriétaire du téléphone, mais ils ont souvent accès à des données de localisation qui facilitent la rétro-ingénierie de ces détails d'identification. (Les chercheurs de Mites ont depuis changé la façon dont ils gèrent la collecte de données dans les bureaux privés en regroupant plusieurs bureaux. Cela rend plus difficile la détermination du comportement des occupants individuels.)

Au-delà de la possibilité de réidentification, qui exactement peut accéder aux données d'un utilisateur est souvent inconnue avec les appareils IoT, que ce soit par accident ou par la conception du système. Les incidents abondent dans lesquels des appareils domestiques intelligents grand public, des moniteurs pour bébé aux haut-parleurs Google Home en passant par les robots aspirateurs, ont été piratés ou leurs données ont été partagées à l'insu ou sans le consentement de leurs utilisateurs.

L'équipe de recherche de Mites était consciente de ces problèmes de confidentialité et de ces failles de sécurité bien connus, mais contrairement à leurs détracteurs, qui considéraient ces précédents comme une raison de ne pas faire confiance à l'installation d'appareils IoT encore plus puissants, Agarwal, Boovaraghavan et Harrison les considéraient comme une motivation pour créer quelque chose de mieux. "Alexa et Google Homes sont des technologies vraiment intéressantes, mais certaines personnes refusent de les avoir parce que cette confiance est rompue", déclare Harrison. Il a estimé que le travail des chercheurs consistait à trouver comment construire un nouvel appareil fiable dès le départ.

Contrairement aux appareils précédents, les leurs protégeraient la vie privée.

Au printemps 2021, Widder a reçu une lettre l'informant qu'il faisait l'objet d'une enquête pour faute présumée pour falsification de matériel informatique universitaire. Il l'a également averti que la façon dont il avait agi pouvait être considérée comme de l'intimidation.

Des fils de discussion à l'échelle du département, partagés avec MIT Technology Review, suggèrent à quel point le débat sur les acariens était devenu personnel et comment Widder était devenu, aux yeux de certains de ses collègues, le méchant. "Les gens qui sortent des capteurs par eux-mêmes (à quoi servent ces conversations profondes si nous allons littéralement prendre les choses en main ?) et d'autres qui publient sur les réseaux sociaux ne sont *pas éthiques*", a écrit un professeur. (Bien que le professeur n'ait pas nommé Widder, il était largement connu qu'il avait fait les deux.)

"Je crois que certaines personnes se sont senties victimes d'intimidation ici, et je prends cela à cœur", dit Widder, bien qu'il se demande également : "Qu'est-ce que cela dit sur notre domaine si nous n'avons pas l'habitude d'avoir ce genre de discussions et … quand nous le faisons, ils ne sont soit pas pris au sérieux, soit … reçus comme de l'intimidation?" (Les chercheurs n'ont pas répondu aux questions sur les allégations d'intimidation.)

L'action disciplinaire a été abandonnée après que Widder a rebranché les capteurs et s'est excusé, mais pour Aldrich, "la lettre fonctionne comme un moyen de punir David d'avoir parlé d'un problème qui dérange la faculté, et de faire taire les critiques de lui et d'autres à l'avenir", comme il l'a écrit dans une réponse officielle à l'examen de doctorat de Widder.

Herbsleb, le directeur du département et conseiller de Widder, a refusé de commenter ce qu'il a appelé un "document interne privé", citant la confidentialité des étudiants.

Alors que Widder pense qu'il a été puni pour ses critiques, les chercheurs avaient déjà pris en compte certaines de ces critiques. Par exemple, les chercheurs ont proposé de laisser les occupants du bâtiment éteindre les capteurs Mites dans leurs bureaux en demandant de se retirer par e-mail. Mais cela restait impossible dans les espaces publics, en partie parce que "nous n'avons même aucun moyen de savoir qui est dans l'espace public", nous ont dit les chercheurs.

En février 2023, les occupants de neuf bureaux sur 110 avaient écrit aux chercheurs pour désactiver les capteurs Mites dans leurs propres bureaux, y compris Widder et Aldrich.

Les chercheurs indiquent que ce petit nombre est la preuve que la plupart des gens sont d'accord avec les acariens. Mais Widder n'est pas d'accord; tout ce que cela prouve, dit-il, c'est que les gens ont vu comment il a été victime de représailles pour avoir retiré ses propres capteurs d'acariens et ont été dissuadés de demander que les leurs soient éteints. "Que cela ait été ou non destiné à être coercitif, je pense que cela a cet effet", dit-il.

Un jour de pluie en octobre dernier, dans une salle de conférence en verre au quatrième étage du TCS Hall, l'équipe de recherche de Mites a fait valoir que les tensions qui couvaient autour de leur projet - les e-mails passionnés et parfois personnels de tous les départements, les échanges Slack et les mairies - faisaient partie intégrante du processus de recherche.

"Vous pouvez voir cette discorde … à travers une lentille négative; nous ne le faisons pas", a déclaré Harrison.

"Je pense que c'est formidable que nous ayons pu favoriser un projet où les gens peuvent légitimement … soulever des problèmes avec lui … C'est une bonne chose", a-t-il ajouté.

"J'espère que nous deviendrons le point culminant pour savoir comment faire cela [la recherche sur les capteurs] de manière très délibérée", a déclaré Agarwal.

D'autres membres du corps professoral, même ceux qui sont devenus de fervents partisans du projet Mites, comme Lorrie Cranor, professeur d'ingénierie de la protection de la vie privée et expert renommé en matière de protection de la vie privée, affirment que les choses auraient pu être faites différemment. "Avec le recul, il aurait dû y avoir plus de communication dès le départ", reconnaît Cranor, et ces conversations auraient dû être continues pour que les étudiants actuels puissent en faire partie. En raison du roulement naturel dans le milieu universitaire, dit-elle, beaucoup d'entre eux n'avaient jamais eu la chance de participer à ces discussions, même si des professeurs de longue date avaient été informés du projet il y a des années.

Elle a également des suggestions sur la façon dont le projet pourrait être amélioré. "Peut-être que nous avons besoin d'un capteur d'acariens dans un espace public qui est connecté à un écran qui vous donne un flux en direct, et vous pouvez sauter de haut en bas et siffler et faire toutes sortes de choses devant et voir quelles données arrivent", dit-elle. Ou laissez les gens télécharger les données et comprendre : « Que pouvez-vous reconstruire à partir de cela ? … S'il est possible de faire de la rétro-ingénierie et de trouver quelque chose, quelqu'un ici le fera probablement. Et sinon, les gens pourraient être plus enclins à faire confiance au projet.

Les appareils pourraient également avoir un interrupteur marche-arrêt, reconnaît Herbsleb, le directeur du département : "Je pense que si ces problèmes avaient été reconnus plus tôt, je suis sûr que Yuvraj [Agarwal] l'aurait conçu de cette façon." (Widder pense toujours que les appareils devraient avoir un interrupteur.)

Mais encore, pour les critiques, ces améliorations réelles et suggérées ne changent pas le fait que "la conversation publique se déroule à cause d'une controverse, plutôt qu'avant", dit Aronson.

Les améliorations de la recherche n'enlèvent pas non plus ce que Widder a vécu. "Quand j'ai fait part de mes inquiétudes, surtout au début", dit-il, "j'ai été traité comme un chercheur d'attention… comme un tyran, un vandale. Et si maintenant les gens suggèrent que cela a amélioré le processus?" Il s'arrête de frustration. "D'accord."

En outre, au-delà des améliorations apportées au processus de recherche à la CMU, il reste la question de savoir comment la technologie pourrait être utilisée dans le monde réel. Cette version commercialisée de la technologie pourrait avoir "des caméras de meilleure qualité et des microphones de meilleure qualité et plus de capteurs et… plus d'informations aspirées", note Aronson. Avant que quelque chose comme Mites ne soit diffusé au public, "nous devons avoir cette grande conversation" pour savoir si c'est nécessaire ou souhaité, dit-il.

"La situation dans son ensemble est la suivante : pouvons-nous faire confiance aux employeurs ou aux entreprises qui produisent ces appareils pour qu'ils ne les utilisent pas pour nous espionner ?" ajoute Aldrich. "Certains employeurs ont prouvé qu'ils ne méritaient pas une telle confiance."

Les chercheurs pensent cependant que s'inquiéter des applications commerciales peut être prématuré. "Il s'agit de recherche, pas d'un produit commercial", ont-ils écrit dans un communiqué envoyé par e-mail. « Mener ce type de recherche dans un environnement hautement contrôlé nous permet d'apprendre et de faire progresser la découverte et l'innovation. Le projet Mites en est encore à ses débuts.

Mais il y a un problème avec ce cadrage, dit Aronson. "Le lieu expérimental n'est pas un laboratoire ou une boîte de Pétri. Ce n'est pas une simulation. C'est un bâtiment dans lequel de vrais êtres humains entrent chaque jour et vivent leur vie."

Widder, le critique le plus virulent du projet, peut imaginer un scénario alternatif où il aurait peut-être pu ressentir différemment Mites, s'il avait été plus participatif et "collaboratif". Peut-être, suggère-t-il, les chercheurs auraient pu laisser les appareils, ainsi qu'un livret d'introduction et d'instructions, sur les bureaux des membres du département afin qu'ils puissent décider s'ils voulaient participer. Cela aurait garanti que la recherche était effectuée "sur la base du principe du consentement opt-in pour même les avoir au bureau en premier lieu". En d'autres termes, il ne pense pas que des fonctionnalités techniques telles que le cryptage et l'informatique de pointe puissent remplacer un consentement significatif.

Même ces types d'ajustements ne changeraient pas fondamentalement la façon dont Widder se sent, cependant. "Je ne suis pas prêt à accepter la prémisse d'un… avenir où il y a tous ces types de capteurs partout", dit-il.

Les 314 acariens qui restent dans les murs et les plafonds du TCS Hall sont, à ce stade, peu susceptibles d'être arrachés. Mais si la lutte autour de ce projet a peut-être pris fin, les débats sur la vie privée ne font que commencer.

Mise à jour : Cette histoire a été mise à jour avec des détails sur la mairie d'avril.

"J'ai soudainement changé d'avis sur la question de savoir si ces choses vont être plus intelligentes que nous."

L'attrait de l'outil de travail s'étend bien au-delà de l'organisation de projets de travail. De nombreux utilisateurs trouvent qu'il est tout aussi utile pour gérer leur temps libre.

Historiquement, les efforts d'apprentissage du codage ont offert des opportunités à quelques-uns, mais de nouveaux efforts visent à être inclusifs.

Hinton prendra la parole à EmTech Digital mercredi.

Découvrez les offres spéciales, les meilleures histoires, les événements à venir et plus encore.

Merci d'avoir soumis votre e-mail !

On dirait que quelque chose s'est mal passé.

Nous rencontrons des difficultés pour enregistrer vos préférences. Essayez d'actualiser cette page et de les mettre à jour une fois de plus. Si vous continuez à recevoir ce message, contactez-nous à l'adresse [email protected] avec une liste des newsletters que vous souhaitez recevoir.