💬 Платформа искусственного интеллекта Midjourney блокирует изображения президента Китая, вызывая дебаты по этике

Платформа искусственного интеллекта Midjourney блокирует изображения президента Китая, вызывая дебаты по этике

Генеративный ИИ позволяет пользователям создавать всевозможные подделки. В последние дни по сети рикошетом разошлись фальшивые фотографии бывшего президента Дональда Трампа, убегающего от полиции, президента России Путина, обнимающего котенка, и даже Папы Римского в белом пуховике Balenciaga. Что вы не можете сделать?

Вы не можете сфотографировать президента Китая Си Цзиньпина — по крайней мере, на генеративной платформе искусственного интеллекта Midjourney.

Чтобы замедлить распространение дипфейков в Интернете, Midjourney на прошлой неделе заявила, что прекращает свою бесплатную пробную версию, но платформа по-прежнему может генерировать изображения мировых лидеров, за исключением президента Китая. Попробуйте сделать это, и Midjourney, компания из Сан-Франциско, скажет вам, что это запрещено. Вы даже не можете использовать имя президента Китая в подсказке:

Критики утверждают, что запрет представляет собой форму цензуры, подрывающую основные принципы свободы слова и самовыражения.

«То, как мир устроен сегодня, и насколько тесно все мы переплетены друг с другом, имеет значение, какие законы о речи действуют где-либо еще», — сказала в интервью Decrypt Сара Маклафлин, старший научный сотрудник Фонда индивидуальных прав и самовыражения (FIRE). «Этот рынок или это правительство могут быть достаточно могущественными, чтобы влиять на то, как работают американские компании».

Маклафлин указал на взлом Sony в 2015 году, который показал, что сцена разрушения Великой Китайской стены была удалена из производственной копии фильма Адама Сэндлера «Пиксели» из-за опасений, что это повредит кассовому успеху фильма в Китае. .

FIRE — это некоммерческая организация из Филадельфии, которая защищает права на свободу слова в Соединенных Штатах, уделяя особое внимание университетским городкам. Фонд, добавил Маклафлин, недавно расширился и стал «универсальной группой свободы слова и Первой поправки».

Маклафлин сказал, что люди склонны совершать ошибку, игнорируя международную цензуру как не относящуюся к ним.

Когда в прошлом году на сервере Midjourney Discord возникла проблема цензуры, генеральный директор Midjourney Дэвид Хольц сказал, что компания хочет свести драму к минимуму.

«Нет никакого злого умысла — в основном мы просто хотим свести к минимуму драму», — сказал Хольц, обращаясь к проблеме в июне прошлого года.

Фотографирование ареста Трампа в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ — Элиот Хиггинс (@EliotHiggins) 20 марта 2023 г.

Фотографирование ареста Трампа в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ

— Элиот Хиггинс (@EliotHiggins) 20 марта 2023 г.

В сообщении от июня 2022 года на сервере Midjourney Discord Хольц подчеркнул разницу в том, как политическая сатира воспринимается в западных странах по сравнению с Китаем, и признал, что политическая сатира, типичная для Запада, может вызвать проблемы в Китае и даже может подвергнуть опасности пользователей.

Существует долгая история создания сатирических образов мировых лидеров, особенно в США, где свобода слова и самовыражения закреплена в Конституции США, но не так в других странах.

«Речь идет не только о противопоставлении американского законодательства китайскому законодательству, — сказал Маклафлин. «Это сложнее, чем это, и мы можем обнаружить, что инструменты, которые мы используем, в конечном итоге следуют законам других стран, а не нашим собственным, таким образом, которого мы не ожидали».

Хольц предположил, что лучше позволить китайцам использовать эту технологию, чем поощрять политическую сатиру.

«Я думаю, что люди в Китае, использующие эту технологию, двигают иглу в мире в целом в положительном [направлении]», — сказал Хольц. «Случайные люди здесь, творящие китайскую политическую сатиру, мало что могут добавить к чему-либо — анализ затрат и выгод кажется ясным».

Сторонники этих ограничений могут сказать, что они необходимы для предотвращения распространения дезинформации и потенциального злоупотребления технологией ИИ. Однако, несмотря на ограничение на изображения президента Си, Маклафлин не считает, что пребывание Мидджонри в Китае будет длиться не очень долго.

«Меня не удивит, если Китай в конечном итоге заблокирует доступ к нему, несмотря на ограничения, поскольку они, как правило, исключают западные компании», — сказала она.

Маклафлин сказал, что то, что делает Midjourney, выходит за рамки нормы, сославшись на недавнее решение Twitter подвергнуть цензуре контент в Индии.

«Недавно Twitter столкнулся с проблемами цензуры в Индии, когда правительство потребовало подвергнуть цензуре документальный фильм BBC о премьер-министре Моди», — сказал Маклафлин. «Twitter заблокировал контент только в Индии, а не во всем мире. Mid-Journey, с другой стороны, делает так, чтобы никто не мог использовать имя Си Цзиньпина, что является эскалацией простой блокировки китайских пользователей».