💬 Может ли блокчейн решить проблемы прозрачности ИИ?

Может ли блокчейн решить проблемы прозрачности ИИ?

Искусственный интеллект (ИИ) производит революцию в различных секторах, расширяя возможности обработки данных и принятия решений за пределами человеческих возможностей. Однако по мере того, как системы искусственного интеллекта становятся все более сложными, они становятся все более непрозрачными, что вызывает обеспокоенность по поводу прозрачности, доверия и справедливости.

Природа «черного ящика», типичная для большинства систем ИИ, часто заставляет заинтересованные стороны сомневаться в происхождении и надежности результатов, генерируемых ИИ. В ответ на это появились такие технологии, как «Объяснимый ИИ» (XAI), стремящиеся демистифицировать операции ИИ, хотя они часто не могут полностью прояснить их сложности.

По мере того, как сложности ИИ продолжают развиваться, растет и потребность в надежных механизмах, обеспечивающих не только эффективность этих систем, но также надежность и справедливость. Откройте для себя технологию блокчейна, известную своей ключевой ролью в повышении безопасности и прозрачности посредством децентрализованного ведения учета.

Блокчейн обладает потенциалом не только для обеспечения безопасности финансовых транзакций, но и для придания операциям ИИ уровня проверяемости, который ранее было трудно достичь. Он обладает потенциалом для решения некоторых из наиболее насущных проблем ИИ, таких как целостность данных и прослеживаемость решений, что делает его критически важным компонентом в поиске прозрачных и надежных систем ИИ.

Крис Фенг, главный операционный директор Chainbase, поделился своими мыслями по этому поводу в интервью crypto.news. По словам Фэна, хотя интеграция блокчейна не может напрямую решить все аспекты прозрачности ИИ, она улучшает несколько важных областей.

Может ли технология блокчейна повысить прозрачность систем искусственного интеллекта?

Технология блокчейн не решает основную проблему объяснимости моделей ИИ. Крайне важно различать интерпретируемость и прозрачность. Основная причина отсутствия объяснимости моделей ИИ заключается в том, что глубокие нейронные сети представляют собой «черный ящик». Хотя мы понимаем процесс вывода, мы не понимаем логического значения каждого задействованного параметра.

Итак, как технология блокчейна повышает прозрачность способами, которые отличаются от улучшений интерпретируемости, предлагаемых такими технологиями, как объяснимый искусственный интеллект IBM (XAI)?

В контексте объяснимого ИИ (XAI) для понимания его функциональности используются различные методы, такие как статистика неопределенности или анализ выходных данных и градиентов моделей. Однако интеграция технологии блокчейн не меняет внутренние методы рассуждения и обучения моделей ИИ и, следовательно, не улучшает их интерпретируемость. Тем не менее, блокчейн может повысить прозрачность обучающих данных, процедур и причинно-следственных связей. Например, технология блокчейна позволяет отслеживать данные, используемые для обучения моделей, и учитывать вклад сообщества в процессы принятия решений. Все эти данные и процедуры могут быть надежно записаны в блокчейне, тем самым повышая прозрачность процессов построения и вывода моделей ИИ.

Учитывая широко распространенную проблему предвзятости в алгоритмах ИИ, насколько эффективен блокчейн в обеспечении происхождения и целостности данных на протяжении всего жизненного цикла ИИ?

Современные методологии блокчейна продемонстрировали значительный потенциал в безопасном хранении и предоставлении обучающих данных для моделей ИИ. Использование распределенных узлов повышает конфиденциальность и безопасность. Например, Bittensor использует подход распределенного обучения, который распределяет данные по множеству узлов и реализует алгоритмы для предотвращения обмана между узлами, тем самым повышая устойчивость распределенного обучения модели ИИ. Кроме того, защита пользовательских данных во время вывода имеет первостепенное значение. Например, Ritual шифрует данные перед их отправкой по узлам вне цепочки для вычислений.

Есть ли какие-либо ограничения у этого подхода?

Заметным ограничением является надзор за предвзятостью модели, возникающей на основе обучающих данных. В частности, часто игнорируется выявление систематических ошибок в прогнозах модели, связанных с полом или расой, возникающих на основе обучающих данных. В настоящее время ни технологии блокчейна, ни методы устранения предвзятости моделей искусственного интеллекта эффективно не нацелены и не устраняют предвзятости с помощью методов объяснимости или устранения предвзятости.

Считаете ли вы, что блокчейн может повысить прозрачность этапов проверки и тестирования модели ИИ?

Такие компании, как Bittensor, Ritual и Santiment, используют технологию блокчейна для соединения смарт-контрактов внутри цепочки с вычислительными возможностями вне цепочки. Эта интеграция позволяет делать выводы в цепочке, обеспечивая прозрачность данных, моделей и вычислительной мощности, тем самым повышая общую прозрачность на протяжении всего процесса.

Какие механизмы консенсуса, по вашему мнению, лучше всего подходят для блокчейн-сетей для проверки решений ИИ?

Я лично выступаю за интеграцию механизмов Proof of Stake (PoS) и Proof of Authority (PoA). В отличие от традиционных распределенных вычислений, процессы обучения и вывода ИИ требуют согласованных и стабильных ресурсов графического процессора в течение длительных периодов времени. Следовательно, крайне важно проверить эффективность и надежность этих узлов. В настоящее время надежные вычислительные ресурсы в основном размещаются в центрах обработки данных различного масштаба, поскольку графические процессоры потребительского уровня могут недостаточно поддерживать сервисы искусственного интеллекта в блокчейне.

Заглядывая в будущее, какие творческие подходы или достижения в технологии блокчейна, по вашему мнению, будут иметь решающее значение для преодоления текущих проблем прозрачности в ИИ, и как они могут изменить ландшафт доверия и подотчетности ИИ?

Я вижу несколько проблем в текущих приложениях искусственного интеллекта на основе блокчейна, таких как решение взаимосвязи между искажением модели и данными, а также использование технологии блокчейна для обнаружения и смягчения атак «черного ящика». Я активно изучаю способы стимулирования сообщества к проведению экспериментов по интерпретируемости моделей и повышению прозрачности моделей ИИ. Более того, я размышляю о том, как блокчейн может способствовать превращению ИИ в настоящее общественное благо. Общественные блага определяются прозрачностью, социальной пользой и служением общественным интересам. Однако современные технологии искусственного интеллекта часто существуют между экспериментальными проектами и коммерческими продуктами. Используя сеть блокчейнов, которая стимулирует и распределяет ценность, мы можем стать катализатором демократизации, доступности и децентрализации ИИ. Этот подход потенциально может обеспечить исполняемую прозрачность и повысить надежность систем искусственного интеллекта.