💬 ИИ переосмысляет реальность. Кто сохраняет это честным?

ИИ переосмысляет реальность. Кто сохраняет это честным?

Ниже приведены гостевой пост и мнение от J.D. Seraphine, основателя и генерального директора Raiinmaker.

ИИ Х. Хрока не может перестать говорить о «белом геноциде» в Южной Африке; Chatgpt стал сикофантом. Мы вошли в эпоху, когда ИИ не просто повторяет человеческие знания, которые уже существуют - кажется, это переписывает его. От результатов поиска до платформ обмена мгновенными сообщениями, такими как WhatsApp, модели с большими языками (LLMS) все чаще становятся тем, с чем мы, как люди, взаимодействуем.

Нравится нам это или нет, больше нет игнорирования ИИ. Однако, учитывая бесчисленные примеры перед нами, нельзя не задаться вопросом, является ли основание, на котором они построены не только ошибочные и предвзятые, но и намеренно манипулируют. В настоящее время мы не только имеем дело с искаженными результатами - мы сталкиваемся с гораздо более глубокой задачей: системы ИИ начинают усилить версию реальности, которая формируется не истиной, а любым контентом покраснется, ранжируется и повторяется чаще всего в Интернете.

Нынешние модели ИИ не просто предвзяты в традиционном смысле; Они все чаще обучаются успокоить, соответствовать общедоступным настроениям, избегать тем, которые вызывают дискомфорт, и, в некоторых случаях, даже перезаписывают некоторые неудобные истины. Недавнее поведение Chatgpt «Sycophantic» не является ошибкой - это отражение того, как модели сегодня адаптируются для вовлечения пользователей и удержания пользователей.

На другой стороне спектра находятся такие модели, как GROK, которые продолжают производить выходы, пронизанные теориями заговора, в том числе заявления, ставя под сомнение исторические злодеяния, такие как Холокост. Независимо от того, становится ли ИИ дезинфицируется до такой степени пустоты или остается подрывным до такой степени, что крайняя искажает реальность, как мы ее знаем. Общий поток здесь ясен: когда модели оптимизированы для вирусности или вовлечения пользователей в отношении точности, правда становится договорной.

Когда данные взяты, не даны

Это искажение истины в системах ИИ является не только результатом алгоритмических недостатков - это начинается с того, как данные собираются. Когда данные, используемые для обучения этих моделей, скребаются без контекста, согласия или какой -либо формы контроля качества, неудивительно, что крупные языковые модели, построенные на вершине, наследуют предубеждения и слепые пятна, которые поставляются с необработанными данными. Мы видели, как эти риски играют и в реальных судебных процессах.

Авторы, художники, журналисты и даже кинематографисты подали жалобы на гиганты ИИ на соскабливание своей интеллектуальной собственности без их согласия, поднимая не только юридические проблемы, но и моральные вопросы - кто контролирует данные, используемые для создания этих моделей, и кто может решить, что реально и что нет?

Заманчивое решение состоит в том, чтобы просто сказать, что нам нужны «более разнообразные данные», но одного этого недостаточно. Нам нужна целостность данных. Нам нужны системы, которые могут проследить происхождение этих данных, проверять контекст этих входов и приглашать добровольное участие, а не существовать в своих собственных бункерах. Именно здесь децентрализованная инфраструктура предлагает путь вперед. В децентрализованной структуре обратная связь с человеком - это не просто патч - это ключевой столб развития. Индивидуальные участники уполномочены, чтобы помочь построить и уточнить модели ИИ с помощью валидации в режиме в реальном времени. Следовательно, согласие явно встроено, и, следовательно, доверие становится проверенным.

Будущее, построенное на общей истине, а не синтетическом консенсусе

Реальность такова, что ИИ здесь, чтобы остаться, и нам не просто нужен ИИ, который умнее; Нам нужен ИИ, который основан на реальности. Растущая зависимость от этих моделей в наших повседневных деньгах-будь то с помощью интеграции поиска или приложений-является явным признаком того, что ошибочные результаты больше не являются просто изолированными ошибками; Они формируют то, как миллионы интерпретируют мир.

Повторяющимся примером этого являются обзоры ИИ Google Search, которые, как известно, были известны, чтобы делать абсурдные предложения. Это не просто странные причуды - они указывают на более глубокую проблему: модели ИИ производят уверенные, но ложные результаты. Для технической индустрии в целом очень важно обратить внимание на тот факт, что когда масштаб и скорость приоритеты выше истины и отслеживаемости, мы не получаем более умных моделей - мы получаем убедительные те, которые обучаются «звучать правильно».

Итак, куда мы идем отсюда? Чтобы корректировать курс, нам нужно больше, чем просто фильтры безопасности. Путь впереди нас не просто технический - это участие. Существует достаточно доказательств того, что указывает на критическую необходимость расширить круг участников, переходя от закрытого обучения в открытые, управляемые сообществом петли обратной связи.

С помощью протоколов согласия поддерживаемыми блокчейном участники могут проверить, как их данные используются для формирования выходов в режиме реального времени. Это не просто теоретическая концепция; Такие проекты, как крупномасштабная сеть Open Intelligence (LAION), уже тестируют системы обратной связи сообщества, где доверенные участники помогают уточнить ответы, генерируемые ИИ. Такие инициативы, как обнимающееся лицо, уже работают с членами сообщества, которые тестируют LLMS и вносят результаты красных команд на публичных форумах.

Следовательно, задача перед нами не заключается в том, можно ли это сделать - есть ли у нас желание создавать системы, которые ставят человечество, а не алгоритмы, в основу развития ИИ.