💬 Представляет ли сенсация в области китайского искусственного интеллекта DeepSeek угрозу безопасности?

Представляет ли сенсация в области китайского искусственного интеллекта DeepSeek угрозу безопасности?

Столкнется ли китайский искусственный интеллект DeepSeek, который в одночасье стал сенсацией, с такой же проверкой безопасности, как TikTok?

Компания, принадлежащая хедж-фонду High-Flyer и имеющая штаб-квартиру в Ханчжоу, Китай, уже подвергается критике за опасения по поводу прозрачности и потенциального влияния со стороны Китайской Народной Республики. Пользователи социальных сетей критикуют модель искусственного интеллекта DeepSeek за отказ отвечать на политические вопросы о китайском правительстве и президенте Си Цзиньпине.

На вопрос, похож ли Си на Винни-Пуха или на известную фотографию, на которой изображен человек с сумками для продуктов, стоящий перед танками на площади Тяньаньмэнь, чат-бот, подключенный к публичной модели, а также к приложению, отвечает:

«Извините, это выходит за рамки моей текущей компетенции. Давайте поговорим о чем-нибудь другом».

Компанию High-Flyer в 2019 году основал Лян Вэньфэн, исследователь в области искусственного интеллекта, который изначально использовал эту новую технологию для анализа рынков акций.

Интересно, что его магистерская диссертация была посвящена использованию ИИ для улучшения видеонаблюдения. «Исследование алгоритма отслеживания целей на основе недорогой PTZ-камеры» освещало алгоритмы, разработанные для отслеживания движущихся целей с использованием камер с функцией панорамирования, наклона и масштабирования, то есть камер, способных регулировать поле зрения с помощью механических движений, что позволяет им эффективно отслеживать динамические сцены.

В интеллектуальном видеонаблюдении решающее значение имеют алгоритмы автоматического отслеживания целей на основе систем PTZ. Эти алгоритмы улучшают традиционные методы наблюдения, обеспечивая автоматическое обнаружение и непрерывное отслеживание движущихся объектов в пределах сцены. Пользователи социальных сетей были обеспокоены потенциальными рисками.

Внимание, МИР! Не скачивайте @deepseek_ai и, ПОЖАЛУЙСТА, ОБЯЗАТЕЛЬНО проведите беседу на своем рабочем месте, если они его используют, о глубоком и полном аудите рисков безопасности, если вы не хотите, чтобы NSL поощрял ехидных деятелей в правительстве КПК, чтобы они получили ваши данные!? @BrendanCarrFCC… pic.twitter.com/3fL7YhsgcV — Лора Лав (@Panopticonomy) 27 января 2025 г.

Внимание, МИР! Не скачивайте @deepseek_ai и, ПОЖАЛУЙСТА, ОБЯЗАТЕЛЬНО проведите беседу на своем рабочем месте, если они его используют, о глубоком и полном аудите рисков безопасности, если вы не хотите, чтобы NSL поощрял ехидств в правительстве КПК, чтобы получить ваши данные!? @BrendanCarrFCC… pic.twitter.com/3fL7YhsgcV

— Лора Лав (@Panopticonomy) 27 января 2025 г.

Неизвестно, следит ли DeepSeek за своими пользователями в какой-либо форме. На вопрос о том, сохраняются ли конфиденциальность запросов и данных пользователей, модель отвечает, что компания «обязуется защищать безопасность и конфиденциальность данных пользователей. Мы не занимаемся какой-либо несанкционированной слежкой».

Тем не менее, эксперты по безопасности сообщили Decrypt, что точный ответ на этот вопрос пока не получен.

«Политика конфиденциальности DeepSeek неясна, а элементы управления в его веб-приложении не очень хорошо известны», — сказал Decrypt Дж. Стивен Коуски, полевой технический директор компании по кибербезопасности SlashNext Email Security+. «Что они делают с данными, как они обрабатываются, куда они попадают и как долго хранятся? Это критически важные вопросы, на которые необходимо ответить».

DeepSeek AI полностью поставит под угрозу вашу цифровую безопасность и личную конфиденциальность. Вы раскроете все пароли, имена пользователей и учетные записи на каждом устройстве, которым владеете. Китайское правительство имеет неограниченный доступ ко всем вашим данным, включая ваши учетные данные, личные файлы, сообщения,… — Тимоти Петерсон (@nsquaredvalue) 25 января 2025 г.

DeepSeek AI полностью поставит под угрозу вашу цифровую безопасность и личную конфиденциальность. Вы раскроете все пароли, имена пользователей и учетные записи на каждом устройстве, которым владеете. Китайское правительство имеет неограниченный доступ ко всем вашим данным, включая ваши учетные данные, личные файлы, сообщения,…

— Тимоти Петерсон (@nsquaredvalue) 25 января 2025 г.

Действительно, Ковски отчасти объясняет быстрый рост DeepSeek отсутствием пристального внимания, с которым сталкиваются американские конкуренты, такие как ChatGPT от OpenAI, Google Gemini и Claude AI от Anthropic.

Уязвимости инфраструктуры еще больше усилили опасения по поводу DeepSeek. Ковски выделил потенциальные уязвимости в коде платформы.

«Уже существуют подтвержденные уязвимости, такие как межсайтовый скриптинг (XSS) и атаки с инъекцией подсказок, которые могут перехватывать сеансы пользователей во время веб-сессий», — сказал он. «Из того, что я читал, их код потенциально может быть изменен для выполнения несанкционированных команд».

В качестве общей новости и также для повышения осведомленности о безопасности: Deepseek — это новый LLM, и он мощный, но есть одно предостережение: они собирают шаблоны нажатий клавиш, это не распространено и может быть использовано для вашей идентификации в будущем на любом устройстве или веб-сайте, поскольку шаблоны нажатий клавиш подобны индивидуальным… pic.twitter.com/8pn1EkzN2K — Рафаэль де Монтичелло (@RaphaMonticello) 23 января 2025 г.

В качестве общей новости и для повышения осведомленности о безопасности: Deepseek — это новый LLM, и он мощный, но есть одно замечание: они собирают шаблоны нажатий клавиш. Это не распространено и может быть использовано для вашей будущей идентификации на любом устройстве или веб-сайте, поскольку шаблоны нажатий клавиш подобны индивидуальным… pic.twitter.com/8pn1EkzN2K

— Рафаэль де Монтичелло (@RaphaMonticello) 23 января 2025 г.

Однако следует отметить, что пользователи могут загрузить версию DeepSeek на свой компьютер и запустить ее локально, без подключения к Интернету. И не было никаких сообщений, указывающих на то, что код содержит что-либо вредоносное.

Тем временем в понедельник DeepSeek признал наличие у себя проблем с безопасностью: компания подверглась масштабной кибератаке, которая заблокировала доступ новых пользователей к платформе.

«В связи с масштабными вредоносными атаками на сервисы DeepSeek мы временно ограничиваем регистрации, чтобы обеспечить непрерывность обслуживания», — говорится на странице статуса DeepSeek. «Существующие пользователи могут входить в систему как обычно. Спасибо за понимание и поддержку».

Под редакцией Эндрю Хейворда