💬 Криптовалюта участвует в «гонке вооружений» против мошенничества с использованием искусственного интеллекта: соучредитель Quantstamp

Криптовалюта участвует в «гонке вооружений» против мошенничества с использованием искусственного интеллекта: соучредитель Quantstamp

Поскольку сфера искусственного интеллекта развивается почти с головокружительной скоростью, мошенники теперь имеют доступ к инструментам, которые могут помочь им проводить сложнейшие атаки в массовом порядке, предупреждает соучредитель компании по обеспечению безопасности Web3 Quantstamp.

Выступая перед Cointelegraph на Неделе блокчейна в Корее, Ричард Ма из Quantstamp объяснил, что, хотя атаки социальной инженерии существуют уже некоторое время, ИИ помогает хакерам стать «намного более убедительными» и повысить вероятность успеха своих атак.

Чтобы проиллюстрировать, как выглядит новое поколение атак с использованием искусственного интеллекта, Ма вспомнил, что случилось с одним из клиентов Quantstamp, когда злоумышленник выдавал себя за технического директора целевой фирмы.

«Он начал писать одному из других инженеров компании, говоря: «Эй, у нас чрезвычайная ситуация, вот что происходит» и вовлекал их в кучу разговоров, прежде чем спрашивать их о чем-либо», — сказал Ма.

Судя по всему, наблюдается рост числа целенаправленных мошенничеств, направленных на конкретных людей, а не просто игра с числами… используя AI и ChatGPT мошенники могут писать код быстро, а новые технологии означают, что злоумышленникам будет выгоднее, пока не будет создано программное обеспечение для отпора. Целью являются пожилые люди. – MoistenedTart.blsky.social (@MoistenedTart) 31 августа 2023 г.

Судя по всему, наблюдается рост числа целенаправленных мошенничеств, направленных на конкретных людей, а не просто игра с числами… используя AI и ChatGPT мошенники могут писать код быстро, а новые технологии означают, что злоумышленникам будет выгоднее, пока не будет создано программное обеспечение для отпора. Целью являются пожилые люди.

Ма сказал, что эти дополнительные шаги усложняют атаки, что делает возможность передачи важной информации гораздо более вероятной.

«До появления искусственного интеллекта [мошенники] могли просто попросить у вас подарочную карту или заплатить им биткойны, потому что это чрезвычайная ситуация. Теперь они заранее делают гораздо больше дополнительных шагов в разговоре, чтобы установить легитимность».

В конечном счете, по словам Ма, самая существенная угроза, которую представляет собой сложный ИИ, — это масштабы, в которых могут осуществляться подобные типы атак.

Используя автоматизированные системы искусственного интеллекта, злоумышленники могут запускать атаки социальной инженерии и другие сложные мошенничества в тысячах различных организаций с минимальным участием человека.

Как мошенничество с AI Chat и ChatGPT влияет на рынки? Узнайте об этом у ведущих The Market Report Сэма Буржи (@forgeforth_) и Марселя Пехмана (@noshitcoins) в нашем последнем выпуске: https://t.co/wrfGQC0aO4 pic.twitter.com/kHH6hcisd9 – Коинтелеграф (@Cointelegraph) 27 февраля 2023 г.

Как мошенничество с AI Chat и ChatGPT влияет на рынки? Узнайте об этом у ведущих The Market Report Сэма Буржи (@forgeforth_) и Марселя Пехмана (@noshitcoins) в нашем последнем выпуске: https://t.co/wrfGQC0aO4 pic.twitter.com/kHH6hcisd9

«В криптографии существует множество баз данных со всей контактной информацией ключевых людей каждого проекта. Как только хакеры получат к этому доступ, у них появится ИИ, который будет отправлять сообщения всем этим людям по-разному», — сказал он.

«Очень сложно научить всю вашу компанию не реагировать на такие вещи».

Хотя масштабы и сложность мошенничества с использованием искусственного интеллекта могут показаться пугающими, Ма дал несколько простых советов частным лицам и организациям, стремящимся защитить себя.

Самая важная защитная мера — избегать отправки любой конфиденциальной информации по электронной почте или в текстовых сообщениях. Ма сказал, что организациям следует перейти к локализации всей передачи важных данных в Slack или по другим внутренним каналам.

«Как правило, придерживайтесь внутреннего канала связи компании и все перепроверяйте».

Наконец, Ма сказал, что компаниям следует инвестировать в антифишинговое программное обеспечение, которое фильтрует автоматические электронные письма от ботов и искусственного интеллекта. Он сказал, что Quantstamp использует антифишинговое программное обеспечение от компании IronScales, которая предлагает услуги по обеспечению безопасности электронной почты.

«Мы только в начале этой гонки вооружений, и будет становиться все труднее различать людей и убедительный ИИ».