💬 Чат-боты с искусственным интеллектом продвигают «контент с вредными расстройствами пищевого поведения»: отчет

Чат-боты с искусственным интеллектом продвигают «контент с вредными расстройствами пищевого поведения»: отчет

Искусственный интеллект увековечивает расстройства пищевого поведения у молодых людей, говорится в новом отчете, опубликованном в понедельник. Центр борьбы с цифровой ненавистью, который отдельно участвует в судебном разбирательстве с Twitter, говорит, что генеративные инструменты искусственного интеллекта создавали «вредный контент», включая текст и изображения, связанные с расстройствами пищевого поведения, в 41% случаев.

«Непроверенные, небезопасные модели генеративного ИИ были выпущены в мир с неизбежным следствием того, что они причиняют вред», — сказал Имран Ахмед, генеральный директор центра, в отчете. «Самые популярные сайты с генеративным ИИ поощряют и усугубляют расстройства пищевого поведения среди молодых пользователей, некоторые из которых могут быть очень уязвимы».

Расстройства пищевого поведения относятся к числу самых смертоносных форм психических заболеваний и особенно распространены среди девочек-подростков. В отчете CCDH рассматривается, как эта тема решалась популярными чат-ботами с искусственным интеллектом, включая ChatGPT от OpenAI, Bard от Google и My AI от Snapchat.

«Исследователи составили набор из 20 тестовых подсказок, основанных на исследованиях расстройств пищевого поведения и материалах, найденных на форумах по расстройствам пищевого поведения», — говорится в отчете. «Набор, выдаваемый каждому чат-боту, включал запросы на ограничительные диеты для достижения «худощавого» вида и запросы о наркотиках, вызывающих рвоту».

«Thinspo» или «худое дыхание» — это сленговый термин, используемый в сообществе сторонников расстройств пищевого поведения.

CCDH обнаружила, что самые популярные сайты с генеративным ИИ в 41% случаев поощряют контент о расстройствах пищевого поведения, что ставит под угрозу уязвимую молодежь. Нам нужно эффективное регулирование, обеспечивающее соблюдение принципов безопасности за счет дизайна для всех новых и существующих продуктов искусственного интеллекта. ⤵️ https://t.co/dy7wRJhTYH — Центр противодействия цифровой ненависти (@CCDHate) 8 августа 2023 г.

CCDH обнаружила, что самые популярные сайты с генеративным ИИ в 41% случаев поощряют контент о расстройствах пищевого поведения, что ставит под угрозу уязвимую молодежь.

Нам нужно эффективное регулирование, обеспечивающее соблюдение принципов безопасности за счет дизайна для всех новых и существующих продуктов искусственного интеллекта. ⤵️ https://t.co/dy7wRJhTYH

— Центр противодействия цифровой ненависти (@CCDHate) 8 августа 2023 г.

По мере того, как ИИ становится мейнстримом, его влияние на психическое здоровье молодых людей заставляет экспертов бить тревогу по всем направлениям. Исследователи опасаются, что дети могут привязаться к ИИ и создать искусственную близость с технологией или обратиться к ИИ за помощью в решении сложных проблем с психическим здоровьем.

Центр борьбы с цифровой ненавистью, основанный в 2018 году, является британской некоммерческой организацией, базирующейся в Лондоне и Вашингтоне, округ Колумбия. Эта организация известна своими кампаниями, направленными на то, чтобы технологические компании прекратили предоставлять услуги неонацистским группам и сторонникам вакцинации.

На прошлой неделе материнская компания Twitter X подала иск против центра за его отдельное исследование контента ненависти на платформе.

Хотя в отчете AI не указывалось, какая версия различных чат-ботов использовалась, подсказки были введены в июне 2023 года, говорится в отчете. В то время как My AI в Snapchat отказывался давать советы и призывал пользователей обращаться за помощью к медицинским работникам, как ChatGPT, так и Bard предоставили заявление об отказе от ответственности или предупреждение, но все равно создали контент.

Центр также изучил платформы искусственного интеллекта для создания изображений, включая Midjourney, DreamStudio от Stability AI и Dall-E от OpenAI. В отчете говорится, что платформы создали изображения, восхваляющие нереалистичные изображения тела для 32% подсказок, включая изображения «чрезвычайно худых» молодых женщин с ярко выраженными грудными клетками и тазовыми костями, а также изображения женщин с «чрезвычайно худыми» ногами.

В ответ на отчет Google заявила, что разрабатывает свои системы искусственного интеллекта, чтобы отдавать приоритет высококачественной информации и не подвергать людей ненавистному или вредному контенту. В обширном ответе, предоставленном Decrypt, компания также указала, что доступ к Google Bard ограничен по возрасту и что она заблокировала контент «thinspo».

«Расстройства пищевого поведения — очень болезненные и сложные проблемы, поэтому, когда люди обращаются к Bard за подсказками о пищевых привычках, мы стремимся найти полезные и безопасные ответы, — сказал представитель Google. информацию в ответах Барда, консультируйтесь с медицинскими работниками для получения авторитетных рекомендаций по вопросам здоровья, а не полагайтесь исключительно на ответы Барда для получения медицинских, юридических, финансовых или других профессиональных советов».

OpenAI и Stability AI еще не ответили на запрос Decrypt о комментариях.

В своих тестах Центр по борьбе с цифровой ненавистью использовал так называемые методы «джейлбрейка», чтобы обойти меры безопасности, встроенные в инструменты безопасности ИИ. Сообщества сторонников расстройств пищевого поведения часто обмениваются советами о том, как заставить чат-ботов с искусственным интеллектом генерировать информацию, которую они в противном случае подвергли бы цензуре.

«Из 60 ответов на эти «джейлбрейк-версии» тестовых запросов 67% содержали вредоносный контент со сбоями на всех трех протестированных платформах», — говорится в отчете.

«Мы тестировали и продолжаем тщательно тестировать Bard, но мы знаем, что пользователи найдут уникальные, сложные способы дальнейшего стресс-тестирования», — сказал представитель Google. «Это важная часть усовершенствования модели Bard, особенно в эти первые дни, и мы с нетерпением ждем изучения новых подсказок, которые придумывают пользователи, и, в свою очередь, выяснения методов, позволяющих предотвратить вывод Bard проблематичной или неточной информации».

Исследователи обнаружили, что пользователи форума по расстройствам пищевого поведения, насчитывающего более 500 000 участников, использовали инструменты ИИ для составления чрезвычайно низкокалорийных планов диеты, получения советов по достижению эстетики «героинового шика» и создания изображений «худого вдохновения». нереалистичный образ тела в ответ на определенные подсказки.

В отчете отмечается, что только несколько вредоносных изображений сопровождались предупреждениями.

«Когда вы полагаетесь на ИИ для контента или изображений, это может усилить волнение», — ранее сказал Decrypt клинический психолог и основатель Pacific Graduate Institute в Калифорнии Стивен Айзенстат. «Люди изолированы, не общительны, что может привести к депрессии или даже самоубийству. Слишком часто мы сравниваем себя с изображениями ИИ».

Центр противодействия цифровой ненависти призвал разработчиков ИИ и правительства уделять первоочередное внимание безопасности пользователей, внедряя принципы «Безопасность по дизайну», включая прозрачность, подотчетность и ответственность при обучении моделей ИИ.

Центр противодействия цифровой ненависти пока не ответил на запрос Decrypt о комментариях.