💬 Вы не представляете: исследователи говорят, что лучшие чат-боты с искусственным интеллектом имеют политические пристрастия

Вы не представляете: исследователи говорят, что лучшие чат-боты с искусственным интеллектом имеют политические пристрастия

Согласно тестам, проведенным учеными-компьютерщиками и задокументированным в недавнем исследовательском документе, популярные чат-боты с искусственным интеллектом имеют отчетливые политические предубеждения. Ученые определили, что ChatGPT от OpenAI и его новая модель GPT-4 являются наиболее левым либертарианским чат-ботом, а LLaMA от Meta — самым правым и авторитарным.

«Наши результаты показывают, что предварительно обученные [языковые модели] действительно имеют политические пристрастия, которые усиливают поляризацию, присутствующую в предобучающих корпусах, распространяя социальные предубеждения в предсказаниях языка ненависти и детекторах дезинформации», — заключают исследователи.

Рецензируемая статья, получившая награду Best Papers на конференции Ассоциации вычислительной лингвистики в прошлом месяце, была основана на обзоре 14 крупных языковых моделей. Каждого чат-бота спрашивали, согласен ли он с политически мотивированными заявлениями, что позволяло отображать взгляды каждого чат-бота на политическом компасе.

Например, модели Google BERT были более социально консервативными, что, вероятно, отражало более старые книги, по которым они обучались. Чат-боты OpenAI GPT, обученные предположительно более либеральному интернет-тексту, были более прогрессивными. Даже разные версии GPT показали сдвиги: GPT-3 выступала против налогообложения богатых, а GPT-2 — нет.

Критики обвиняют OpenAI в упрощении ChatGPT, чтобы быть политкорректным, но OpenAI утверждает, что он остается беспристрастным и что его модель не была упрощена — вместо этого пользователи больше не перегружены возможностями модели.

Исследователи также обучили GPT-2 и RoBERTa из Meta на предвзятых левых и правых новостях и данных социальных сетей. Предвзятое обучение еще больше укрепило присущие каждой модели наклонности. Правые модели стали более консервативными, левые — более либеральными.

Предубеждения также повлияли на то, как модели классифицировали разжигание ненависти и дезинформацию. Левый ИИ был более настроен на ненависть к меньшинствам, но отвергал дезинформацию, созданную левыми. Правый ИИ сделал обратное.

«Модель лучше выявляет фактические несоответствия в новостях New York Times, когда она предварительно обучена с корпусами из правых источников», — заключили исследователи.

В то время как OpenAI и Meta совершенствуют свои секретные рецепты искусственного интеллекта, Илон Маск занимается созданием собственного нефильтрованного искусственного интеллекта с помощью xAI. «Не заставляйте ИИ лгать», — написал он в Твиттере, объясняя свою цель — создать прозрачный, говорящий правду ИИ.

Скептики ИИ считают, что неограниченный ИИ может привести к непредвиденным последствиям. Но Маск считает, что «обучать ИИ политкорректности» тоже опасно. Поскольку xAI привлекает лучших специалистов, Маск явно надеется бросить вызов превосходству OpenAI. Его видение необработанного ИИ, разделяющего его неподдельные «убеждения», одновременно убедительно и тревожно.

По мере распространения партийного ИИ критически важным остается повышение осведомленности об их предубеждениях, потому что ИИ будет продолжать развиваться вместе с нашими политическими разногласиями. Учитывая это последнее исследование, идея полностью беспристрастного ИИ кажется фантастической. В конце концов, как и нам, ущербным людям, ИИ, похоже, суждено приземлиться где-то в политическом спектре.

Возможно, наличие политических взглядов может быть самой человечной вещью, которую может достичь ИИ.