🖥 Помогла ли галлюцинация искусственного интеллекта осудить рэпера Праса из Fugees?

Помогла ли галлюцинация искусственного интеллекта осудить рэпера Праса из Fugees?

Искусственный интеллект проникает во все аспекты жизни, включая американскую правовую систему. Но по мере того, как технология становится все более распространенной, проблема лжи или чепухи, создаваемой ИИ, — так называемых «галлюцинаций» — остается.

Эти галлюцинации искусственного интеллекта лежат в основе заявлений бывшего участника Fugees Праказрела «Праса» Мишеля, который обвинил модель искусственного интеллекта, созданную EyeLevel, в срыве его многомиллионного дела о мошенничестве. Сооснователь EyeLevel и главный операционный директор Нил Кац называет это утверждение неправда.

В апреле Мишель был признан виновным по 10 пунктам обвинения в заговоре, включая фальсификацию свидетелей, фальсификацию документов и работу в качестве незарегистрированного иностранного агента. Мишелю грозит до 20 лет тюремного заключения после того, как его осудят как агента Китая, поскольку прокуратура заявила, что он пытался повлиять на американских политиков.

«Адвокаты Праса Мишеля привлекли нас, чтобы сделать что-то уникальное — то, чего раньше не делалось», — рассказал Кац Decrypt в интервью.

Согласно сообщению Associated Press, во время заключительных прений тогдашнего адвоката Мишеля адвокат Дэвид Кеннер неверно процитировал текст песни Шона «Дидди» Комбса «I'll Be Missing You», ошибочно приписав эту песню Фуги.

Как объяснил Кац, перед EyeLevel была поставлена ​​задача создать ИИ, обученный на основе стенограмм судебных заседаний, который позволил бы юристам задавать сложные вопросы на естественном языке о том, что происходило во время судебного разбирательства. Он сказал, что он не черпал другую информацию, например, из Интернета.

Судебные разбирательства, как известно, генерируют массу документов. Продолжающийся до сих пор уголовный процесс над основателем FTX Сэмом Бэнкман-Фридом уже породил сотни документов. Отдельно о банкротстве упавшей криптовалютной биржи имеется более 3300 документов, некоторые из которых занимают десятки страниц.

«Это кардинально меняет правила игры в сложных судебных процессах», — написал Кеннер в блоге EyeLevel. «Система превратила часы или дни юридической работы в секунды. Это взгляд в будущее того, как будут вестись дела».

В понедельник новый адвокат Мишеля, Питер Зейденберг, подал ходатайство, опубликованное в Интернете агентством Reuters, о проведении нового судебного разбирательства в Окружном суде США по округу Колумбия.

«Кеннер использовал экспериментальную программу искусственного интеллекта для написания своего заключительного аргумента, который содержал необоснованные аргументы, смешивал схемы и не смог выявить ключевые слабости в позиции правительства», — написал Зейденберг. Он добавил, что Майкл добивается нового судебного разбирательства, «потому что многочисленные ошибки, многие из которых вызваны его неэффективным судебным адвокатом, подрывают доверие к приговору».

Кац опроверг эти утверждения.

«Это произошло не так, как говорят; эта команда не имеет никаких знаний ни об искусственном интеллекте, ни о нашем конкретном продукте», — сказал Кац Decrypt. «Их заявление пронизано дезинформацией. Мне бы хотелось, чтобы они использовали наше программное обеспечение для искусственного интеллекта; они могли бы написать правду».

Адвокаты Мишеля еще не ответили на запрос Decrypt о комментариях. Кац также опроверг утверждения о том, что Кеннер имеет финансовый интерес к EyeLevel, заявив, что компания была нанята для помощи юридической команде Мишеля.

«Содержащееся в их заявлении обвинение в том, что Дэвид Кеннер и его партнеры имеют какой-то тайный финансовый интерес к нашим компаниям, категорически неверно», — сказал Кац Decrypt. «Кеннер написал очень положительный отзыв о производительности нашего программного обеспечения, потому что считал, что это так. Ему за это не заплатили; ему не дали акций».

Компания EyeLevel со штаб-квартирой в Беркли, запущенная в 2019 году, разрабатывает генеративные модели искусственного интеллекта для потребителей (EyeLevel для CX) и юристов (EyeLevel для права). Как объяснил Кац, EyeLevel был одним из первых разработчиков, которые работали с создателем ChatGPT OpenAI, и сказал, что компания стремится предоставить «правдивый ИИ» — или надежные инструменты без галлюцинаций для людей и юристов, которые могут не иметь доступа к средствам для платить за большую команду.

Обычно генеративные модели ИИ обучаются на больших наборах данных, собранных из различных источников, включая Интернет. Что отличает EyeLevel, по словам Каца, так это то, что эта модель ИИ обучается только на судебных документах.

«[ИИ] обучался исключительно на стенограммах, исключительно на фактах, представленных в суде обеими сторонами, а также на том, что сказал судья», — сказал Кац. «И поэтому, когда вы задаете вопросы этому ИИ, он дает только фактические, свободные от галлюцинаций ответы, основанные на том, что произошло».

Несмотря на то, как обучается модель ИИ, эксперты предупреждают о привычке программы лгать или галлюцинировать. В апреле ChatGPT ложно обвинил американского адвоката по уголовным делам Джонатана Терли в совершении сексуального насилия. Чат-бот зашел так далеко, что предоставил фальшивую ссылку на статью Washington Post, чтобы доказать свое утверждение.

OpenAI вкладывает значительные средства в борьбу с галлюцинациями ИИ, даже привлекая сторонние красные команды для тестирования своего набора инструментов ИИ.

«Когда пользователи регистрируются для использования этого инструмента, мы стремимся быть максимально прозрачными, поскольку ChatGPT не всегда может быть точным», — сообщает OpenAI на своем веб-сайте. «Однако мы понимаем, что предстоит проделать гораздо больше работы, чтобы еще больше снизить вероятность галлюцинаций и проинформировать общественность о текущих ограничениях этих инструментов искусственного интеллекта».