ИИ может использовать данные VR-гарнитуры для прогнозирования личных данных: исследователи

Смешение виртуальной реальности с искусственным интеллектом может обернуться кошмаром для конфиденциальности.

По словам исследователей, анализируя, как люди двигаются, когда они носят гарнитуры виртуальной реальности, модель машинного обучения в большинстве случаев точно предсказывает их рост, вес, возраст, семейное положение и многое другое. Работа показывает, как искусственный интеллект можно использовать для угадывания личных данных без необходимости их прямого раскрытия пользователями.

В ходе одного исследования, проведенного в Калифорнийском университете в Беркли в феврале, исследователи смогли выделить одного человека из более чем 50 000 других пользователей виртуальной реальности с точностью более 94%. Они достигли этого результата после анализа всего 200 секунд данных о движении. Во втором июньском исследовании исследователи определили рост, вес, размер ноги и страну проживания человека с точностью более 80%, используя данные 1000 человек, играющих в популярную VR-игру Beat Sabre. Даже личная информация, такая как семейное положение, статус занятости и этническая принадлежность, может быть идентифицирована с точностью более 70%.

Исследователи использовали модель машинного обучения для анализа данных, загруженных в гарнитуры виртуальной реальности, таких как движения глаз или рук. «Самыми простыми критериями для модели являются возраст, пол, этническая принадлежность и страна», — сказал ведущий исследователь Вивек Наир из Калифорнийского университета в Беркли. Например, чтобы определить чей-то возраст, модель могла угадать, основываясь на том, как быстро он достигнет виртуальной цели. Более быстрая реакция коррелирует с лучшим зрением и более молодым возрастом. «Но есть даже такие вещи, как ваш уровень дохода, ваш статус инвалидности, состояние здоровья, даже такие вещи, как политические предпочтения, можно угадать», — сказал он.

Почти половина участников обоих исследований использовали Quest 2 от Meta Platforms Inc., 16% использовали Valve Index, а остальные участники использовали другие гарнитуры, такие как HTC Vive или Samsung Windows Mixed Reality. По словам Джей Стэнли, старшего политического аналитика Американского союза гражданских свобод, гарнитуры виртуальной реальности собирают данные, которые не были бы доступны через традиционный веб-сайт или приложение, такие как взгляд пользователя, язык тела, пропорции тела и выражение лица. «Это объединяет целый ряд других проблем конфиденциальности, но также усугубляет их».

Meta, которая зарабатывает большую часть своих денег на рекламе на основе пользовательских данных, полагается на машинное обучение, чтобы заполнить пробелы в том, что она знает о людях, хотя неясно, сколько VR-данных в этой смеси. В 2021 году Apple внесла изменения в свою политику конфиденциальности, которые ограничили объем данных, которые Meta могла отслеживать на iPhone, лишив гиганта социальных сетей дохода в размере 10 миллиардов долларов. Это заставило компанию инвестировать в искусственный интеллект. В этом году Meta вернулась к двузначному росту доходов после улучшения своего искусственного интеллекта, позволяющего предсказывать, какой контент и рекламу люди хотят видеть.

Meta запускает ограниченную рекламу в VR-гарнитурах с 2021 года и тогда заявила, что не будет использовать данные, обрабатываемые и хранящиеся на устройствах, такие как изображения рук, для таргетинга рекламы. Когда его попросили более подробно рассказать о политике в отношении данных, полученных с гарнитуры, Meta указала Bloomberg на свой Центр безопасности Quest, где компания объясняет, как пользователи могут сделать свой аватар, изображение профиля, имя и имя пользователя конфиденциальными, обеспечивая некоторый контроль над тем, кто еще можно это увидеть. Компания также объясняет, что «данные, отправленные и хранящиеся на наших серверах, будут отключены от вашей учетной записи, когда они нам больше не понадобятся для предоставления услуги или улучшения функции отслеживания глаз».

В прошлом Meta подвергалась пристальному вниманию из-за сбора конфиденциальных личных данных своих пользователей. В 2021 году Meta закрыла свою систему распознавания лиц и удалила более 1 миллиарда изображений лиц после того, как столкнулась с давлением со стороны регулирующих органов. Биометрические данные, такие как изображения лица, особенно чувствительны, поскольку они не могут быть изменены и позволяют легко идентифицировать конкретного человека. Наир сказал, что VR-гарнитуры собирают одинаково конфиденциальные данные, но поскольку технология новее, пользователи и регулирующие органы еще не понимают ее, что делает ее потенциально более опасной.