💬 Отчет об угрозах Google связывает вредоносное ПО на базе искусственного интеллекта с кражей криптовалюты в КНДР от 2025-11-24

Отчет об угрозах Google связывает вредоносное ПО на базе искусственного интеллекта с кражей криптовалюты в КНДР

Google предупредил, что несколько новых семейств вредоносных программ теперь используют большие языковые модели во время выполнения для изменения или генерации кода, что знаменует собой новый этап в том, как связанные с государством и преступные субъекты используют искусственный интеллект в реальных операциях.

В отчете, опубликованном на этой неделе, группа Google Threat Intelligence Group заявила, что отследила как минимум пять различных штаммов вредоносного ПО с поддержкой искусственного интеллекта, некоторые из которых уже использовались в текущих и активных атаках.

Недавно выявленные семейства вредоносных программ «динамически генерируют вредоносные сценарии, запутывают свой собственный код, чтобы избежать обнаружения», а также используют модели искусственного интеллекта «для создания вредоносных функций по требованию», вместо того, чтобы жестко запрограммировать их в пакетах вредоносных программ, заявила группа по анализу угроз.

Каждый вариант использует внешнюю модель, такую ​​​​как Gemini или Qwen2.5-Coder, во время выполнения для генерации или запутывания кода — метод, который GTIG назвал «созданием кода точно в срок».

Этот метод представляет собой отход от традиционного дизайна вредоносного ПО, где логика вредоносного ПО обычно жестко запрограммирована в двоичном коде.

Передавая часть своей функциональности модели искусственного интеллекта, вредоносное ПО может постоянно вносить изменения, чтобы защитить себя от систем, предназначенных для его сдерживания.

Два семейства вредоносных программ, PROMPTFLUX и PROMPTSTEAL, демонстрируют, как злоумышленники интегрируют модели искусственного интеллекта непосредственно в свои операции.

В техническом описании GTIG описывается, как PROMPTFLUX запускает процесс «Мыслящего робота», который каждый час вызывает API Gemini для переписывания собственного кода VBScript, в то время как PROMPTSTEAL, связанный с российской группой APT28, использует модель Qwen, размещенную на Hugging Face, для генерации команд Windows по требованию.

Группа также выявила деятельность северокорейской группы, известной как UNC1069 (Masan), которая злоупотребляла Gemini.

Исследовательское подразделение Google описывает группу как «северокорейскую угрозу, известную тем, что проводит кампании по краже криптовалюты с использованием социальной инженерии», с заметным использованием «языка, связанного с обслуживанием компьютеров и сбором учетных данных».

По данным Google, запросы группы к Gemini включали инструкции по поиску данных приложения кошелька, созданию сценариев для доступа к зашифрованному хранилищу и составлению многоязычного фишингового контента, предназначенного для сотрудников криптобиржи.

Эти действия, добавлено в отчете, по-видимому, являются частью более широкой попытки создать код, способный красть цифровые активы.

Google заявил, что уже отключил учетные записи, связанные с этими действиями, и ввел новые меры защиты для ограничения злоупотреблений моделями, включая усовершенствованные фильтры подсказок и более строгий мониторинг доступа к API.

Результаты могут указывать на новую поверхность атаки, где вредоносное ПО во время выполнения запрашивает LLM, чтобы найти хранилище кошельков, генерировать специальные сценарии эксфильтрации и создавать весьма надежные фишинговые приманки.

Компания Decrypt обратилась к Google с вопросом, как новая модель может изменить подходы к моделированию и атрибуции угроз, но пока не получила ответа.