🎙 Это Джо Байден или дипфейк с искусственным интеллектом? Белый дом планирует маркировать аутентичный контент

Это Джо Байден или дипфейк с искусственным интеллектом? Белый дом планирует маркировать аутентичный контент

Поскольку ящик Пандоры ИИ широко открыт, технологи и специалисты по этике пытаются найти способы борьбы с дипфейками, создаваемыми ИИ. Белый дом теперь заявляет, что изучает возможность использования криптографической технологии для обозначения подлинного контента.

«Мы понимаем, что все более мощные технологии упрощают такие вещи, как клонирование голосов или фальшивые видео», — сказал Business Insider ранее в этом месяце специальный советник Белого дома по вопросам искусственного интеллекта Бен Бьюкенен. «Мы хотим не препятствовать творчеству, которое может возникнуть благодаря использованию более мощных инструментов, а также контролировать некоторые риски».

Бьюкенен сказал, что после того, как администрация Байдена встретилась с более чем дюжиной разработчиков ИИ в 2023 году, компании согласились вставлять водяные знаки в свои продукты, прежде чем публиковать их для общественности. Однако водяными знаками можно манипулировать и полностью удалять, что делает обратный подход привлекательным.

«[Что касается] правительства, мы находимся в процессе разработки стандартов водяных знаков через новый Институт безопасности искусственного интеллекта и Министерство торговли, чтобы убедиться, что у нас есть четкий набор правил дорожного движения и рекомендации о том, как нам решить некоторые из этих сложных проблем с водяными знаками, контентом и происхождением», — сказал Бьюкенен Yahoo Finance.

Представитель Белого дома не сразу ответил на запрос Decrypt о комментариях.

В декабре в рамках инициативы по борьбе с изображениями, созданными искусственным интеллектом, гиганты цифровых изображений Nikon, Sony и Canon объявили о партнерстве по включению цифровой подписи в изображения, снятые соответствующими камерами.

На прошлой неделе администрация Байдена объявила о запуске Института безопасности искусственного интеллекта США, в котором участвуют OpenAI, Microsoft, Google, Apple и Amazon. Институт, по словам администрации, был создан в результате указа Байдена, направленного против индустрии искусственного интеллекта в октябре.

Разработка искусственного интеллекта для обнаружения дипфейков превратилась в кустарную индустрию. Однако некоторые выступают против этой практики, заявляя, что она только усугубит проблему.

«Использование ИИ для обнаружения ИИ не сработает. Вместо этого это порождает бесконечную гонку вооружений. Плохие парни всегда будут побеждать», — сказал Decrypt соучредитель и генеральный директор компании по проверке личности IDPartner Род Бутби. «Решение состоит в том, чтобы перевернуть проблему и позволить людям подтверждать свою личность онлайн. Использование банковской идентичности — очевидное решение проблемы».

Бутби указывает на использование в банковском секторе «непрерывной аутентификации», чтобы гарантировать, что человек, участвующий в анонимном интернет-сеансе, является тем, кем он себя называет.

Для ученого в области кибербезопасности и права Стар Кашман защита от дипфейков связана с осознанностью.

«Повышение осведомленности может предотвратить большой ущерб, особенно в случае звонков от роботов и телефонного мошенничества с использованием искусственного интеллекта», — сказал Кашман Decrypt по электронной почте. «Если ваша семья проинформирована о распространенном мошенничестве с голосовым телефоном с использованием искусственного интеллекта, когда мошенники звонят, притворяясь, что они похитили члена семьи, и используют искусственный интеллект для имитации голоса этого члена семьи, то человек, которому звонят, может знать, что нужно проверить этого родственника, прежде чем платить. фальшивый выкуп за того, кто никогда не пропадал».

Достижения в области генеративного искусственного интеллекта позволяют все легче обманывать и обманывать широкую общественность, о чем свидетельствует недавняя кампания по вызову роботов, которая пыталась помешать избирателям-демократам в Нью-Гэмпшире участвовать в первичных выборах в прошлом месяце.

Звонок Байдена от робота был отслежен телекоммуникационной компании из Техаса. После издания приказа о прекращении противодействия компании Lingo Telecom LLC. Федеральная комиссия по связи США приняла новое правило, объявляющее незаконными звонки роботов с использованием голосов искусственного интеллекта.

Хотя Кашман сказала, что осведомленность по-прежнему является лучшим способом избежать мошенничества с помощью дипфейков с использованием искусственного интеллекта, она признала, что угроза требует вмешательства правительства.

«Что касается глубоких фейков, знание не мешает людям создавать такие из вас», — сказал Кашман. «Однако знание может усилить давление на правительство, которое необходимо для принятия закона, объявляющего создание незаконных дипфейков без согласия незаконным на федеральном уровне».