💬 Технический директор Ripple Шварц об искусственном интеллекте: «Если вам нужны правдивые ответы, не используйте его»

Технический директор Ripple Шварц об искусственном интеллекте: «Если вам нужны правдивые ответы, не используйте его»

Дэвид Шварц — известный скептик в области ИИ. Он часто делится напоминаниями о потенциальных опасностях использования инструментов с искусственным интеллектом в их современных конструкциях. Теперь он прокомментировал практику использования ИИ для работы с судебными документами.

Ответы ChatGPT только выглядят правильными, говорит технический директор Ripple

Чат-бот ChatGPT на базе ИИ и аналогичные большие языковые модели (LLM), лежащие в основе генеративных программ ИИ, дают ответы, которые не соответствуют действительности, но определенно выглядят так, как есть. Как таковые, их не следует использовать для поиска верных ответов на «серьезные» вопросы.

Напоминание о том, что ChatGPT и другие программы генеративного искусственного интеллекта LLM дают ответы, которые выглядят как правильные. Это не значит, что они *являются* правильными. Если вам нужны ответы, которые не только выглядят правильными, но и на самом деле *верны*, не используйте генеративный ИИ! https://t.co/MdZhCrik7d — Дэвид «ДжоэлКац» Шварц (@JoelKatz) 27 мая 2023 г.

Напоминание о том, что ChatGPT и другие программы генеративного искусственного интеллекта LLM дают ответы, которые выглядят как правильные. Это не значит, что они *являются* правильными. Если вам нужны ответы, которые не только выглядят правильными, но и на самом деле *верны*, не используйте генеративный ИИ! https://t.co/MdZhCrik7d

Это заявление было сделано Шварцем в качестве комментария к анализу, проведенному известным юристом Стивом Владеком, Чарльзом Аланом Райтом, председателем федеральных судов на юридическом факультете Техасского университета. Владек поделился примерами поддельных судебных документов, сгенерированных ChatGPT.

Юрист рекомендовал никогда не использовать ChatGPT или подобные инструменты для юридических исследований. Также он попросил не пытаться обучать LLM поддельными судебными документами.

Шварца больше всего беспокоит опасное сходство между поддельными документами, созданными искусственным интеллектом, и настоящими. Даже опытный исследователь не сможет определить, какое из них верно:

Задача ChatGPT состоит в том, чтобы предоставить вам вывод, максимально похожий на вывод, который обычно получают такие вопросы. Действительно ли это *правда* в смысле соответствия реальным вещам в реальном мире, просто не имеет значения.

Задача ChatGPT состоит в том, чтобы предоставить вам вывод, максимально похожий на вывод, который обычно получают такие вопросы. Действительно ли это *правда* в смысле соответствия реальным вещам в реальном мире, просто не имеет значения.

Как ранее сообщал U.Today, Шварц начал выражать обеспокоенность по поводу возможных опасностей ИИ во время первой фазы ажиотажа вокруг ChatGPT.

Он высказал мнение, что в ближайшем будущем ИИ сможет генерировать живые кадры террористических атак, которых никогда не было.

Криптосегмент устал от шумихи вокруг ИИ?

В то время как мания ИИ спровоцировала несколько удивительных ралли альткойнов с низкой капитализацией, которым каким-то образом удалось оседлать «нарратив ИИ», не все в криптосфере с энтузиазмом относятся к этому.

Аналитик DeFi и партнер Cinneamhain Ventures Адам Кокран признал, что для него использование ИИ в стратегиях технического маркетинга для криптовалюты в 2023 году выглядит как «красный флаг»:

Я на 100 % продам на рынке Insta любые имеющиеся у меня токены, которые связаны с чем-то в сфере ИИ. Погоня за трендами просто означает, что они не могут создать настоящий продукт.

Я на 100 % продам на рынке Insta любые имеющиеся у меня токены, которые связаны с чем-то в сфере ИИ. Погоня за трендами просто означает, что они не могут создать настоящий продукт.

Влияние ИИ на криптографию и блокчейн можно сильно переоценить. Как мы показали в нашем руководстве, сгенерированные ИИ тексты могут быть полезны для обучения базовым навыкам кодирования смарт-контрактов, но ответы ChatGPT слишком расплывчаты и запутаны для исследования криптографии.

Например, его характеристика XRP Ledger выглядит подробной и точной, но на самом деле может вводить в заблуждение и мало что добавляет к знаниям об этом блокчейне.