💬 Платформа искусственного интеллекта Midjourney блокирует изображения президента Китая, вызывая дебаты по этике от 2023-04-04

Платформа искусственного интеллекта Midjourney блокирует изображения президента Китая, вызывая дебаты по этике

Генеративный ИИ позволяет пользователям создавать всевозможные подделки. В последние дни по сети рикошетом разошлись фальшивые фотографии бывшего президента Дональда Трампа, убегающего от полиции, президента России Путина, обнимающего котенка, и даже Папы Римского в белом пуховике Balenciaga. Что вы не можете сделать?

Вы не можете сфотографировать президента Китая Си Цзиньпина — по крайней мере, на генеративной платформе искусственного интеллекта Midjourney.

Чтобы замедлить распространение дипфейков в Интернете, Midjourney на прошлой неделе заявила, что прекращает свою бесплатную пробную версию, но платформа по-прежнему может генерировать изображения мировых лидеров, за исключением президента Китая. Попробуйте сделать это, и Midjourney, компания из Сан-Франциско, скажет вам, что это запрещено. Вы даже не можете использовать имя президента Китая в подсказке:

Критики утверждают, что запрет представляет собой форму цензуры, подрывающую основные принципы свободы слова и самовыражения.

«То, как мир устроен сегодня, и насколько тесно все мы переплетены друг с другом, имеет значение, какие законы о речи действуют где-либо еще», — сказала в интервью Decrypt Сара Маклафлин, старший научный сотрудник Фонда индивидуальных прав и самовыражения (FIRE). «Этот рынок или это правительство могут быть достаточно могущественными, чтобы влиять на то, как работают американские компании».

Маклафлин указал на взлом Sony в 2015 году, который показал, что сцена разрушения Великой Китайской стены была удалена из производственной копии фильма Адама Сэндлера «Пиксели» из-за опасений, что это повредит кассовому успеху фильма в Китае. .

FIRE — это некоммерческая организация из Филадельфии, которая защищает права на свободу слова в Соединенных Штатах, уделяя особое внимание университетским городкам. Фонд, добавил Маклафлин, недавно расширился и стал «универсальной группой свободы слова и Первой поправки».

Маклафлин сказал, что люди склонны совершать ошибку, игнорируя международную цензуру как не относящуюся к ним.

Когда в прошлом году на сервере Midjourney Discord возникла проблема цензуры, генеральный директор Midjourney Дэвид Хольц сказал, что компания хочет свести драму к минимуму.

«Нет никакого злого умысла — в основном мы просто хотим свести к минимуму драму», — сказал Хольц, обращаясь к проблеме в июне прошлого года.

Фотографирование ареста Трампа в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ — Элиот Хиггинс (@EliotHiggins) 20 марта 2023 г.

Фотографирование ареста Трампа в ожидании ареста Трампа. pic.twitter.com/4D2QQfUpLZ

— Элиот Хиггинс (@EliotHiggins) 20 марта 2023 г.

В сообщении от июня 2022 года на сервере Midjourney Discord Хольц подчеркнул разницу в том, как политическая сатира воспринимается в западных странах по сравнению с Китаем, и признал, что политическая сатира, типичная для Запада, может вызвать проблемы в Китае и даже может подвергнуть опасности пользователей.

Существует долгая история создания сатирических образов мировых лидеров, особенно в США, где свобода слова и самовыражения закреплена в Конституции США, но не так в других странах.

«Речь идет не только о противопоставлении американского законодательства китайскому законодательству, — сказал Маклафлин. «Это сложнее, чем это, и мы можем обнаружить, что инструменты, которые мы используем, в конечном итоге следуют законам других стран, а не нашим собственным, таким образом, которого мы не ожидали».

Хольц предположил, что лучше позволить китайцам использовать эту технологию, чем поощрять политическую сатиру.

«Я думаю, что люди в Китае, использующие эту технологию, двигают иглу в мире в целом в положительном [направлении]», — сказал Хольц. «Случайные люди здесь, творящие китайскую политическую сатиру, мало что могут добавить к чему-либо — анализ затрат и выгод кажется ясным».

Сторонники этих ограничений могут сказать, что они необходимы для предотвращения распространения дезинформации и потенциального злоупотребления технологией ИИ. Однако, несмотря на ограничение на изображения президента Си, Маклафлин не считает, что пребывание Мидджонри в Китае будет длиться не очень долго.

«Меня не удивит, если Китай в конечном итоге заблокирует доступ к нему, несмотря на ограничения, поскольку они, как правило, исключают западные компании», — сказала она.

Маклафлин сказал, что то, что делает Midjourney, выходит за рамки нормы, сославшись на недавнее решение Twitter подвергнуть цензуре контент в Индии.

«Недавно Twitter столкнулся с проблемами цензуры в Индии, когда правительство потребовало подвергнуть цензуре документальный фильм BBC о премьер-министре Моди», — сказал Маклафлин. «Twitter заблокировал контент только в Индии, а не во всем мире. Mid-Journey, с другой стороны, делает так, чтобы никто не мог использовать имя Си Цзиньпина, что является эскалацией простой блокировки китайских пользователей».