💬 «Предвзятый, обманчивый»: Центр ИИ обвиняет создателя ChatGPT в нарушении торгового законодательства

«Предвзятый, обманчивый»: Центр ИИ обвиняет создателя ChatGPT в нарушении торгового законодательства

Центр искусственного интеллекта и цифровой политики (CAIDP) подал жалобу в Федеральную торговую комиссию США (FTC) в попытке остановить выпуск мощных систем ИИ для потребителей.

Жалоба была сосредоточена вокруг недавно выпущенной большой языковой модели OpenAI, GPT-4, которую CAIDP описывает в своей жалобе от 30 марта как «предвзятую, вводящую в заблуждение и представляющую угрозу для конфиденциальности и общественной безопасности».

CAIDP, независимая некоммерческая исследовательская организация, утверждала, что коммерческий выпуск GPT-4 нарушает раздел 5 Закона о Федеральной торговой комиссии, который запрещает «недобросовестные или вводящие в заблуждение действия или методы в сфере торговли или влияющие на нее».

В подтверждение своей позиции организация по этике ИИ указала на содержимое системной карты GPT-4, в котором говорится:

«Мы обнаружили, что модель может усиливать и воспроизводить определенные предубеждения и мировоззрения, включая вредные стереотипные и унизительные ассоциации для определенных маргинализированных групп».

В том же документе говорится: «Системы ИИ будут иметь еще больший потенциал для укрепления целых идеологий, мировоззрений, правды и лжи, а также для их цементирования или блокировки, исключая будущие оспаривания, размышления и улучшения».

CAIDP добавил, что OpenAI выпустила GPT-4 для коммерческого использования, полностью осознавая эти риски, и что до его выпуска не проводилась независимая оценка GPT-4.

В результате CAIDP хочет, чтобы FTC провела расследование в отношении продуктов OpenAI и других операторов мощных систем ИИ:

«Настало время для FTC действовать [...] CAIDP призывает FTC начать расследование в отношении OpenAI, предписать дальнейшие коммерческие выпуски GPT-4 и обеспечить создание необходимых ограждений для защиты потребителей, предприятий и коммерческих рынок».

В то время как ChatGPT-3 был выпущен в ноябре, последняя версия GPT-4 считается в десять раз более интеллектуальной. После его выпуска 14 марта исследование показало, что GPT-4 смог сдать самые строгие школьные и юридические экзамены в США в пределах 90-го процентиля.

Среди прочего, он также может обнаруживать уязвимости смарт-контрактов в Ethereum.

Этим утром я взламывал новый API ChatGPT и обнаружил кое-что очень интересное: существует более 80 секретных плагинов, которые можно раскрыть, удалив определенный параметр из вызова API. Секретные плагины включают «плагин DAN», «плагин Crypto Prices». и многое другое. pic.twitter.com/Q6JO1VLz5x — (@rez0__) 24 марта 2023 г.

Этим утром я взламывал новый API ChatGPT и обнаружил кое-что очень интересное: существует более 80 секретных плагинов, которые можно раскрыть, удалив определенный параметр из вызова API. Секретные плагины включают «плагин DAN», «плагин Crypto Prices». и многое другое. pic.twitter.com/Q6JO1VLz5x

Жалоба поступила после того, как Илон Маск, Стив Возняк из Apple и множество экспертов по ИИ подписали петицию о «приостановке» разработки систем ИИ, более мощных, чем GPT-4, которые были представлены Институтом будущего жизни 22 марта.

Сегодня у меня есть немного экзистенциальной тревоги ИИ — Илон Маск (@elonmusk) 26 февраля 2023 г.

Сегодня у меня есть немного экзистенциальной тревоги ИИ

Президент CAIDP Марк Ротенберг был среди других 2600 подписавших петицию.

Авторы утверждали, что «Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле», к лучшему или к худшему.

Организация Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) также призвала государства выполнять «Рекомендацию ООН по этике ИИ».

После того, как 1000 технических работников призвали приостановить обучение самым мощным системам ИИ, @ЮНЕСКО призывает страны немедленно выполнить ее Рекомендацию по этике ИИ — первую глобальную структуру такого рода, принятую 193 государствами-членами https://t .co/BbA00ecihO pic.twitter.com/GowBq0jKbi — Элиот Минхенберг (@E_Minchenberg) 30 марта 2023 г.

После того, как 1000 технических работников призвали приостановить обучение самым мощным системам ИИ, @ЮНЕСКО призывает страны немедленно выполнить ее Рекомендацию по этике ИИ — первую глобальную структуру такого рода, принятую 193 государствами-членами https://t .co/BbA00ecihO pic.twitter.com/GowBq0jKbi

В других новостях бывший исследователь искусственного интеллекта для Google недавно заявил, что чат-бот Google с искусственным интеллектом, Бард, был обучен с использованием ответов ChatGPT.

Хотя исследователь подал в отставку из-за инцидента, руководители Google отвергли обвинения, выдвинутые их бывшим коллегой.