🎙 Привлеките ИИ и объединитесь в SingularityNet, чтобы подавить галлюцинации ИИ

Привлеките ИИ и объединитесь в SingularityNet, чтобы подавить галлюцинации ИИ

Разработчики Fetch AI и SingularityNET объявили о новом партнерстве для борьбы с галлюцинациями ИИ с помощью децентрализованной технологии.

Сделка между Fetch AI и SingularityNET будет сосредоточена на устранении тенденции больших языковых моделей (LLM) выдавать неточные или нерелевантные выходные данные или «галлюцинации», которые они считают двумя серьезными препятствиями на пути повышения надежности и внедрения ИИ.

Децентрализованные платформы, такие как SingularityNET и Fetch, позволяют разработчикам собирать многокомпонентные системы искусственного интеллекта с различными компонентами, которые работают на разных машинах, без какого-либо центрального координатора, рассказал Decrypt генеральный директор SingularityNET Бен Герцель. «Возможность экспериментировать с множеством различных конфигураций многокомпонентных систем искусственного интеллекта, таких как нейронно-символические системы, дает гибкость иного рода, чем та, которая существует в стандартных централизованных инфраструктурах искусственного интеллекта», — сказал он.

Соглашение также включает в себя планы по запуску в 2024 году серии еще не названных продуктов, которые, как они утверждают, будут использовать децентрализованные технологии для разработки более совершенных и точных моделей искусственного интеллекта.

Сделка позволит разработчикам получать доступ и комбинировать такие инструменты, как интерфейс DeltaV Fetch.ai и AI API SingularityNET, что позволит разработчикам ИИ создавать более децентрализованные, надежные и интеллектуальные модели.

«SingularityNET работает над рядом методов борьбы с галлюцинациями у студентов LLM. Ключевой темой всего этого является нейронно-символическая интеграция. Мы занимаемся этим с момента основания SingularityNET в 2017 году», — добавил руководитель AGI SingularityNET Алексей Потапов. «Наша точка зрения состоит в том, что LLM могут зайти так далеко в своей нынешней форме и недостаточны для того, чтобы привести нас к общему искусственному интеллекту, но являются потенциальным отвлечением от конечной цели».

Нейро-символическая интеграция

Нейронно-символическая интеграция объединяет нейронные сети, обучающиеся на основе данных, с символическим ИИ, который использует четкие правила рассуждения. Эта комбинация улучшает обучение и принятие решений ИИ, делая его адаптируемым и логически обоснованным, что приводит к более точным и надежным приложениям ИИ.

«Конечно, мы не ожидаем полного устранения [галлюцинаций], но я думаю, что часть удовольствия от LLM заключается в том, чтобы иметь галлюцинации, потому что именно здесь и появляются инновации», — сказал Decrypt основатель и генеральный директор Fetch AI Хумаюн Шейх. «В каком-то смысле нужно быть творческим без каких-либо ограничений».

Хотя галлюцинации искусственного интеллекта являются проблемой, сказал Шейх, сочетание галлюцинаций с созданными искусственным интеллектом дипфейками представляет собой более серьезную угрозу, и это не только проблема сейчас, но и проблема, которая будет расти в будущем, когда искусственный интеллект станет более продвинутым, а галлюцинации более убедительными.

Шейх указал на опасность ИИ, который «экстраполирует некоторые неправильные идеи и укрепляет себя», назвав это «самореализующейся» проблемой. «Для меня это самая большая проблема в ближайшем будущем, а не мысль о том, что какой-то ИИ начнет пытаться нас захватить», — добавил он.

Рост галлюцинаций искусственного интеллекта

Наряду с распространением искусственного интеллекта, галлюцинации ИИ также попали в заголовки газет.

В апреле ChatGPT ошибочно обвинил профессора права Джонатана Терли в сексуальном насилии над студентом во время школьной поездки, которую он так и не посетил.

В октябре адвокаты бывшего участника Fugees Праса Мишеля подали ходатайство о новом судебном разбирательстве, утверждая, что его бывшая команда юристов использовала искусственный интеллект, а модель ИИ галлюцинировала в своих ответах, в результате чего их клиент был признан виновным по 10 пунктам обвинения, включая сговор с целью фальсификации свидетелей. , фальсификацию документов и работу в качестве незарегистрированного иностранного агента.

«Галлюцинация — это палка о двух концах, особенно в сфере создания контента», — сказал CPO Fetch AI Камаль Вед. «Многим людям нравятся галлюцинации, потому что они получают от этого удовольствие и то, с чем вернется LLM». Он пояснил, что партнеры «пытаются решить проблему фактического выполнения действия, и мы ожидаем некоего детерминизма».

По словам исследователей из Стэнфордского университета, в то время как компании борются за доминирование на рынке, борьба с галлюцинациями становится сложнее из-за отсутствия прозрачности в разработке моделей искусственного интеллекта. И хотя разработчики генеративного ИИ могут заявлять, что хотят быть прозрачными, в октябрьском отчете Центра исследований фундаментальных моделей (CRFM) Стэнфордского университета говорится об обратном.

Руководитель общества CRFM Риши Боммасани предупредил, что компании, участвующие в модели фонда, становятся менее прозрачными, добавив, что «если у вас нет прозрачности, регулирующие органы не смогут даже ставить правильные вопросы, не говоря уже о том, чтобы предпринимать действия в этих областях».

OpenAI, Meta и IBM нашли группы, нацеленные на повышение прозрачности в разработке ИИ. В июле OpenAI в партнерстве с Anthropic, Google и Microsoft запустила Frontier Model Forum, целью которого является ответственная разработка моделей ИИ, в том числе борьба с галлюцинациями ИИ.

Ранее в этом месяце IBM в партнерстве с Meta запустила AI Alliance — консорциум из более чем 50 организаций, которые объединились для ответственного и прозрачного исследования, разработки и создания моделей ИИ.

«Прогресс, который мы продолжаем наблюдать в области искусственного интеллекта, является свидетельством открытых инноваций и сотрудничества между сообществами творцов, ученых, ученых и бизнес-лидеров», — заявил в своем заявлении председатель и главный исполнительный директор IBM Арвинд Кришна. «Это поворотный момент в определении будущего искусственного интеллекта».