💬 Перед лицом слежки с использованием искусственного интеллекта нам нужны децентрализованные конфиденциальные вычисления

Перед лицом слежки с использованием искусственного интеллекта нам нужны децентрализованные конфиденциальные вычисления

Ниже представлен гостевой пост Янника Шраде, генерального директора и соучредителя Arcium.

Когда технический директор Oracle AI Ларри Эллисон поделился своим видением глобальной сети наблюдения на базе ИИ, которая будет поддерживать граждан в их «лучшем поведении», критики поспешили провести параллели с «1984» Джорджа Оруэлла и охарактеризовать его бизнес-подачу как антиутопическую. Массовое наблюдение является нарушением конфиденциальности, имеет негативные психологические последствия и запугивает людей, отказываясь от участия в протестах.

Но что больше всего беспокоит в видении Эллисона будущего, так это то, что массовое наблюдение с использованием ИИ уже стало реальностью. Во время летних Олимпийских игр этого года французское правительство заключило контракт с четырьмя технологическими компаниями — Videtics, Orange Business, ChapsVision и Wintics — на видеонаблюдение по всему Парижу, используя аналитику на основе ИИ для мониторинга поведения и оповещения службы безопасности.

Растущая реальность массового наблюдения с использованием искусственного интеллекта

Эта спорная политика стала возможной благодаря законодательству, принятому в 2023 году, разрешающему недавно разработанному программному обеспечению ИИ анализировать данные о населении. Хотя Франция является первой страной в Европейском союзе, легализовавшей наблюдение с использованием ИИ, видеоаналитика не является чем-то новым.

Правительство Великобритании впервые установило системы видеонаблюдения в городах в 1960-х годах, а по состоянию на 2022 год 78 из 179 стран ОЭСР использовали ИИ для систем распознавания лиц в общественных местах. Ожидается, что спрос на эту технологию будет только расти по мере развития ИИ и предоставления более точных и масштабных информационных услуг.

Традиционно правительства использовали технологические достижения для модернизации систем массового наблюдения, часто передавая грязную работу частным компаниям. В случае с Парижской Олимпиадой технологические компании получили возможность протестировать свои модели обучения ИИ на крупномасштабном публичном мероприятии, получив доступ к информации о местоположении и поведении миллионов людей, посещающих игры и ведущих свою повседневную жизнь в городе.

Конфиденциальность против общественной безопасности: этическая дилемма наблюдения с помощью ИИ

Сторонники конфиденциальности, такие как я, утверждают, что видеонаблюдение мешает людям жить свободно и без беспокойства. Политики, которые используют эту тактику, могут утверждать, что она используется во имя общественной безопасности; наблюдение также держит власти под контролем, например, требуя от полицейских носить нательные камеры. Должны ли технологические компании иметь доступ к публичным данным в первую очередь, остается под вопросом, но также и то, какой объем конфиденциальной информации может безопасно храниться и передаваться между несколькими сторонами.

Что приводит нас к одной из самых больших проблем для нашего поколения: хранение конфиденциальной информации в сети и то, как эти данные управляются между различными сторонами. Каковы бы ни были намерения правительств или компаний, собирающих частные данные с помощью наблюдения ИИ, будь то для общественной безопасности или умных городов, должна быть безопасная среда для анализа данных.

Децентрализованные конфиденциальные вычисления: решение для обеспечения конфиденциальности данных ИИ

Движение за децентрализованные конфиденциальные вычисления (DeCC) предлагает видение того, как решить эту проблему. Многие модели обучения ИИ, например Apple Intelligence, используют среды доверенного выполнения (TEE), которые опираются на цепочку поставок с отдельными точками отказа, требующими доверия третьей стороны, от производства до процесса аттестации. DeCC стремится устранить эти отдельные точки отказа, создав децентрализованную и не требующую доверия систему для анализа и обработки данных.

Кроме того, DeCC может позволить анализировать данные без расшифровки конфиденциальной информации. Теоретически, инструмент видеоаналитики, созданный на основе сети DeCC, может оповещать об угрозе безопасности, не раскрывая конфиденциальную информацию о лицах, которая была записана, сторонам, осуществляющим мониторинг с помощью этого инструмента.

В настоящее время тестируется ряд децентрализованных конфиденциальных вычислительных техник, включая доказательства с нулевым разглашением (ZKP), полностью гомоморфное шифрование (FHE) и многопартийные вычисления (MPC). Все эти методы по сути пытаются сделать одно и то же — проверить важную информацию, не раскрывая конфиденциальную информацию ни одной из сторон.

MPC стал лидером для DeCC, обеспечивая прозрачное урегулирование и выборочное раскрытие информации с наибольшей вычислительной мощностью и эффективностью. MPC позволяют создавать среды Multi-Party eXecution Environments (MXE). Виртуальные, зашифрованные контейнеры выполнения, в которых любая компьютерная программа может быть выполнена полностью зашифрованным и конфиденциальным образом.

В контексте это позволяет как тренировать высокочувствительные и изолированные зашифрованные данные, так и делать выводы с использованием зашифрованных данных и зашифрованных моделей. Таким образом, на практике распознавание лиц может выполняться, при этом данные могут быть скрыты от сторон, обрабатывающих эту информацию.

Аналитика, собранная из этих данных, может затем быть передана различным соответствующим сторонам, таким как органы безопасности. Даже в среде, основанной на наблюдении, становится возможным, по крайней мере, ввести прозрачность и подотчетность в осуществляемое наблюдение, сохраняя при этом большую часть данных конфиденциальной и защищенной.

Хотя децентрализованная конфиденциальная вычислительная технология все еще находится на стадии разработки, ее появление выявляет риски, связанные с доверенными системами, и предлагает альтернативный метод шифрования данных. В настоящее время машинное обучение интегрируется практически в каждый сектор, от городского планирования до медицины, развлечений и многого другого.

Для каждого из этих вариантов использования модели обучения опираются на пользовательские данные, и DeCC будет иметь основополагающее значение для обеспечения индивидуальной конфиденциальности и защиты данных в будущем. Чтобы избежать антиутопического будущего, нам необходимо децентрализовать искусственный интеллект.