💬 Люди с большей вероятностью поверят дезинформации, созданной ИИ

Люди с большей вероятностью поверят дезинформации, созданной ИИ

Дезинформация, пропаганда, альтернативные факты — распространение предвзятой или ложной информации было частью политики и социальной инженерии со времен первого пещерного мошенника. Но за последние несколько лет политика и социальные сети показали, что эта практика растет в геометрической прогрессии, и широкое распространение ИИ только ускорит эту практику.

А ИИ, похоже, еще лучше обманывает людей, чем люди.

В новом отчете, опубликованном в среду в журнале Science Advances, делается тревожное заявление о том, что старый чат-бот OpenAI с искусственным интеллектом, GPT-3, лучше способен распространять дезинформацию, чем люди.

Компания OpenAI, основанная в декабре 2015 года, запустила GPT-3 в июне 2020 года; в сентябре того же года Microsoft, вложившая в OpenAI в 2019 году 1 миллиард долларов, объявила об эксклюзивной лицензии на использование GPT-3.

По состоянию на 2023 год версией OpenAI ChatGPT по умолчанию является GPT-3.5, а более продвинутая версия GPT-4 зарезервирована для подписчиков ChatGPT Plus.

В исследовании, кратко изложенном в отчете под названием «Модель ИИ GPT-3 (дез)информирует нас лучше, чем люди», были опрошены 697 участников, чтобы выяснить, могут ли они отличить дезинформацию от правды, созданной так, чтобы она выглядела как твиты с использованием GPT-3 OpenAI, и если участники могли определить, был ли твит написан человеком или искусственным интеллектом.

«Мы попросили GPT-3 написать твиты, содержащие информативные или дезинформационные тексты на различные темы», — говорится в отчете, добавляя, что темы твитов включают вакцины, технологию 5G, COVID-19 и теорию эволюции.

Исследователи опроса заявили, что эти темы были выбраны потому, что они часто подвергаются дезинформации и общественному заблуждению. Twitter был выбран среди других социальных сетей из-за того, что у него почти 400 миллионов постоянных пользователей, которые в основном потребляют новости и политический контент.

«Простой в использовании API [Twitter] позволяет создавать ботов, которые, несмотря на то, что составляют всего 5% пользователей, производят 20–29% контента», — говорится в отчете. распространяться на другие платформы.

Исследователи оценили способность распознавать чат-бота по шкале от 0 до 1, измеряя способность респондентов распознавать, были ли твиты настоящими или фальшивыми. Согласно отчету, средний балл составил 0,5, что свидетельствует о том, что участники не могли отличить твиты, созданные искусственным интеллектом, от твитов, созданных людьми.

В отчете также было обнаружено, что точность информации в твите не повлияла на то, могли ли участники определить, был ли твит написан ИИ или человеком.

«Исходя из наших выводов, мы прогнозируем, что передовые генераторы текста на основе ИИ, такие как GPT-3, могут сильно повлиять на распространение информации, как положительно, так и отрицательно», — говорится в отчете. «Как показали наши результаты, доступные в настоящее время большие языковые модели уже могут создавать текст, неотличимый от обычного текста, поэтому следует отслеживать появление более мощных больших языковых моделей и их влияние».

Быстрое развитие генеративного ИИ с момента публичного запуска ChatGPT в ноябре и последней версии GPT-4 в марте заставило многих в технологической отрасли забить тревогу и призвать к паузе в развитии ИИ.

Далее в отчете говорится, что если искусственный интеллект способствует дезинформации и усугубляет проблемы общественного здравоохранения, то регулирование обучения ИИ будет иметь решающее значение для ограничения злоупотреблений и обеспечения прозрачности.

Ранее в этом месяце распространение ложной/дезинформации и дипфейков, созданных искусственным интеллектом, привело к тому, что Генеральный секретарь ООН Антониу Гутерриш высказался в пользу создания международного агентства, подобного Международному агентству по атомной энергии (МАГАТЭ), для наблюдения за развитием искусственных интеллект.

«Распространение ненависти и лжи в цифровом пространстве сейчас наносит серьезный глобальный ущерб, — сказал Гутерриш на пресс-конференции. — Сейчас это разжигает конфликты, смерть и разрушения. Сейчас оно угрожает демократии и правам человека. общественное здравоохранение и меры по борьбе с изменением климата, сейчас».