Ученые-компьютерщики, проектирующие будущее, не могут договориться о том, что означает конфиденциальность

Dec 14, 2023

Исследователи из Университета Карнеги-Меллон хотели создать интеллектуальный датчик, сохраняющий конфиденциальность. Затем их обвинили в нарушении частной жизни коллег.

Когда летом 2020 года студенты и преподаватели информатики Института исследований программного обеспечения Университета Карнеги-Меллон вернулись в кампус, им пришлось к чему приспособиться.

Помимо неизбежной странности снова оказаться рядом с коллегами после нескольких месяцев социального дистанцирования, отдел также переезжал в совершенно новое здание: современный зал TCS площадью 90 000 квадратных футов.

Футуристические особенности зала включали датчики углекислого газа, которые автоматически подают свежий воздух, дождевой сад, площадку для роботов и дронов, а также экспериментальные сверхчувствительные устройства под названием «Клещи». Эти устройства размером с выключатель света, установленные в более чем 300 местах по всему зданию, могут измерять 12 типов данных, включая движение и звук. Клещи были внедрены на стены и потолки коридоров, в конференц-залы и в частные офисы, и все это в рамках исследовательского проекта по умным зданиям, возглавляемого профессором КМУ Ювраджем Агарвалом и аспирантом Судершаном Буварагаваном, а также другим профессором Крисом Харрисоном.

«Общая цель этого проекта», — объяснил Агарвал на собрании мэрии в апреле 2021 года, — «построить безопасную, надежную и простую в использовании инфраструктуру IoT [Интернета вещей]», имея в виду сеть сенсорных устройств. оборудованные физические объекты, такие как умные лампочки, термостаты и телевизоры, которые могут подключаться к Интернету и обмениваться информацией по беспроводной сети.

Не всем было приятно обнаружить, что в здании полно клещей. Некоторые в департаменте посчитали, что проект скорее нарушает их конфиденциальность, чем защищает ее. В частности, студенты и преподаватели, чьи исследования были сосредоточены больше на социальных последствиях технологий, считали, что микрофон устройства, инфракрасный датчик, термометр и шесть других датчиков, которые вместе могут, по крайней мере, определять, когда пространство занято, подвергнут их экспериментальному наблюдению. без их согласия.

«Недопустимо устанавливать их по умолчанию», — говорит Дэвид Виддер, аспирант последнего года обучения в области разработки программного обеспечения, который стал одним из самых громких голосов кафедры против Mites. «Я не хочу жить в мире, где работодатель, устанавливающий сетевые датчики в вашем офисе, не спросив вас предварительно, является моделью для подражания другим организациям».

Все пользователи технологий сталкиваются с одинаковыми вопросами о том, как и где провести личную линию, когда дело касается конфиденциальности. Но за пределами наших домов (а иногда и внутри них) нам все больше не хватает автономии в принятии этих решений. Вместо этого наша конфиденциальность определяется выбором окружающих нас людей. Зайдя в дом друга, в розничный магазин или просто по общественной улице, мы подвергаемся множеству различных типов наблюдения, над которыми у нас мало контроля.

На фоне стремительного роста наблюдения на рабочих местах, обильного сбора данных, растущих рисков кибербезопасности, растущей обеспокоенности по поводу конфиденциальности и интеллектуальных технологий, а также напряженной динамики сил вокруг свободы слова в академических учреждениях, Mites стал громоотводом в Институте исследований программного обеспечения.

Голоса по обе стороны проблемы осознавали, что проект Mites может оказать влияние далеко за пределы TCS Hall. В конце концов, Карнеги-Меллон — ведущий исследовательский университет в области науки, технологий и инженерии, и то, как он проводит эти исследования, может повлиять на то, как датчики будут использоваться в других местах. «Когда мы что-то делаем, компании… [и] другие университеты слушают», — говорит Виддер.

Действительно, исследователи Mites надеялись, что процесс, через который они прошли, «на самом деле может стать образцом для небольших университетов», желающих провести аналогичные исследования, говорит Агарвал, доцент кафедры информатики, который занимается разработкой и тестированием машинного обучения для устройств Интернета вещей. в течение десятилетия.

Но главный вопрос заключается в том, что произойдет, если (или когда) суперсенсоры выйдут из Карнеги-Меллон, будут коммерциализированы и появятся в умных зданиях по всему миру.