💬 Урок Web2 для ИИ: децентрализация для защиты человечества

Урок Web2 для ИИ: децентрализация для защиты человечества

Это будет звучать самонадеянно от человека, который не пишет код, не говоря уже о том, чтобы иметь какой-либо непосредственный опыт в области машинного обучения или исследований в области искусственного интеллекта.

Но я должен сказать это: недавнее алармистское требование шестимесячной паузы или даже принудительного прекращения исследований ИИ со стороны людей с опытом, деньгами и влиянием в индустрии искусственного интеллекта основано на каком-то фундаментально ошибочном мышлении, которое будет поощрять тот же разрушительный результат для человечества, которого мы стремимся избежать. То, что правительство США одновременно организует подавление криптоиндустрии, области инноваций с открытым исходным кодом, которая разрабатывает технологии криптографии и сетевой координации, необходимые для управления угрозами ИИ, делает этот момент особенно опасным для всех нас.

Эти предсказатели судьбы — ученые-компьютерщики, а не изучающие экономическую историю. Проблема не в том, что вышедший из-под контроля ИИ может эволюционировать, чтобы убить нас всех. (Мы все это знаем. На протяжении десятилетий Голливуд учил нас, что это так.) Нет, задача состоит в том, чтобы экономика ИИ не поощряла этот ужасный результат. Мы должны не допустить, чтобы сосредоточенный контроль над вводом и выводом машин ИИ мешал нашей способности действовать сообща в общих интересах. Нам нужна коллективная, совместная разработка программного обеспечения, которое создаст вычислительное противоядие от этих антиутопических кошмаров.

Ответ заключается не в прекращении инноваций в области искусственного интеллекта и блокировании создателя ChatGPT компании OpenAI, лидера отрасли, дошедшего до нынешнего уровня развития, в выигрышном положении. Наоборот, это лучший способ убедиться, что кошмар сбывается.

Уроки Web2

Мы знаем это по краху Web2, управляемой рекламой экономики, основанной на социальных платформах, в которой децентрализованный интернет Web1 был рецентрализован вокруг олигархии всезнающего> «капитализма наблюдения», и мы, люди, стали его жертвами, пассивный источник персональных данных, которые извлекаются у нас и перерабатываются в алгоритмы, изменяющие поведение.

Все это произошло не потому, что платформы были морально склонны отказаться от максимы Google «Не будь злым», а потому, что логика рынка подтолкнула их к этой модели. Реклама приносила доход, а постоянно растущий пул пользователей на их платформах предоставлял данные, с помощью которых интернет-титаны могли формировать человеческое поведение, чтобы максимизировать отдачу от этой рекламы. Акционеры, требуя, чтобы этот экспоненциальный рост продолжался, оказывали давление на них, чтобы они удваивали эту модель, чтобы «соответствовать цифре» каждый квартал. По мере того, как срабатывали сетевые эффекты и платформы привлекали больше пользователей за счет самоусиливающейся функции роста, модели извлечения данных становились все более прибыльными, и от них все труднее было отказаться, поскольку ожидания Уолл-стрит становились все выше.

Эта эксплуататорская система выйдет из-под контроля, если разработка ИИ будет происходить в рамках той же монопольно-дефолтной структуры. Решение состоит не в том, чтобы остановить исследования, а в том, чтобы стимулировать разработчиков ИИ разрабатывать способы ниспровержения этой модели.

Обновление капитализма

На протяжении веков система рыночного капитализма поощряла конкуренцию между предпринимателями за долю на рынке, создавая богатство и производительность для всех. Это способствовало неравенству в уровне благосостояния, но в конечном итоге с помощью антимонопольного законодательства, законов о профсоюзах и социальной защиты привело к беспрецедентному росту благосостояния во всем мире.

Но система была построена для аналоговой экономики, которая вращалась вокруг производства и продажи физических вещей, мира, в котором ограничения географии накладывали обременительную стоимость капитала на возможности роста. Эпоха интернета совсем другая. Это один из самоусиливающихся сетевых эффектов, когда эффективность производства программного обеспечения позволяет лидерам рынка быстро увеличивать долю рынка при очень низких предельных затратах, а самый ценный товар — не материальный, например, железная руда, а нематериальный — это человеческие данные. .

Нам нужна новая модель децентрализованной собственности и согласованного управления, основанная на стимулах для конкурентных инноваций, но имеющая внутри себя самокорректирующуюся структуру, которая направляет эти инновации на общественное благо.

Вдохновленный Джейкобом Стивсом, основателем децентрализованного протокола разработки ИИ Bittensor, я считаю, что криптотехнология может помочь определить, как будет выглядеть это будущее, даже если для этого нам нужны ограждения.

«Мы говорим, давайте создадим открытое владение ИИ», — сказал Стивс о токенизированной децентрализованной модели построения ИИ Bittensor в подкасте «Money Reimagined» на этой неделе. «Если вы можете внести свой вклад, вы можете владеть этим. А потом пусть народ решит».

Философская идея заключается в том, что достаточно децентрализованное владение и контроль не позволят какой-либо одной стороне диктовать развитие ИИ, и вместо этого группа в целом выберет модели, благоприятные для коллектива. «Если бы у всех нас была часть этого, то эта вещь не вернется и не причинит нам вреда, потому что, в конце концов, основная валюта ИИ, основная часть собственности находится в вашем кошельке», — сказал Стивс.

Слишком утопично? Может быть. Длинный список мошенничеств в истории криптографии означает, что многие инстинктивно представляют, что модель крипто-ИИ захватили гнусные деятели.

Но если мы собираемся создать общий проект, основанный на инновациях с открытым исходным кодом и коллективном управлении, экономические явления, которые больше всего похожи на то, что нам нужно, — это экосистемы, возникшие вокруг протоколов блокчейна.

«Эфириум и Биткойн — крупнейшие суперкомпьютеры в мире, измеряемые в хэшах», — сказал Стивс. «Эти сети — во благо или во зло, независимо от того, позиционируете ли вы себя по обе стороны в дебатах о власти — являются мегаструктурами. Это крупнейшие вычислительные мегаструктуры, когда-либо созданные человечеством… они в сотни раз больше, чем хранилища данных таких компаний, как Google».

Регуляторный захват

OpenAI, компания, стоящая за моделями больших языков ChatGPT и GPT1-4 (LLM), структурирована совсем иначе, чем эти блокчейн-экосистемы. Это частная компания, которая только что получила 10 миллиардов долларов инвестиций от технологического гиганта Microsoft.

И хотя ее генеральный директор Сэм Альтман еще не присоединился к генеральному директору Tesla и инвестору OpenAI Илону Маску в качестве одного из более чем 25 000 подписавших открытое письмо, призывающее к шестимесячной паузе в разработке ИИ, многие считают, что если бы требования этого письма были реализована, компания будет прямым бенефициаром, что затруднит любому конкуренту бросить вызов доминированию OpenAI, в то же время получив контроль компании Альтмана над развитием ИИ в будущем.

«Письмо призвано сплотить общественную поддержку OpenAI и его союзников по мере того, как они укрепляют свое господство, создают расширенное инновационное лидерство и обеспечивают свое преимущество над технологией, имеющей фундаментальное значение для будущего», — написал пионер криптовалюты Питер Вессенес в статье CoinDesk. На этой неделе. «Если это произойдет, это нанесет непоправимый вред американцам — нашей экономике и нашему народу».

Представьте себе, писал Вессен, что «в 1997 году Microsoft и Dell выпустили аналогичное письмо о паузе, призывая к прекращению инноваций в браузерах и запрету новых сайтов электронной коммерции на шесть месяцев, ссылаясь на свое собственное исследование о том, что Интернет уничтожит обычные магазины и помощь финансированию террористов. Сегодня мы признали бы это корыстным паникерством и попыткой захвата регулирующих органов».

OpenAI теперь основан на закрытой системе, но LLM-подход к машинному обучению уже вышел из-под контроля и воспроизводится всевозможными изобретательными способами. Как может соглашение американских ученых или даже акт Конгресса остановить продвижение этой технологии — особенно со стороны преступных группировок, поддерживаемых государствами-изгоями, имеющими все основания игнорировать мольбы Соединенных Штатов?

Неправильное направление

Сопоставьте это с недавней враждебностью правительства США по отношению к криптовалюте, проявляющейся в ряде действий Комиссии по ценным бумагам и биржам против лидеров отрасли и в санкциях против протокола Tornado Cash с открытым исходным кодом, и возникает тревожное совпадение. То, что криптокомпании сейчас покидают берега США, представляет собой больше, чем угрозу для индустрии цифровых активов. Это удар по самой форме инноваций с открытым исходным кодом, которая необходима, чтобы избежать опасного захвата ИИ корыстными централизованными интересами.

Несмотря на все потери, которые недавно понесли спекулянты токенами, волны денег, которые преследовали эти богатства, финансировали некоторые из самых больших скачков в криптографии всех времен. Например, доказательства с нулевым разглашением, которые, вероятно, сыграют роль в защите конфиденциальной информации от повсеместного слежения со стороны ИИ, продвинулись во много раз больше, чем в докриптовскую эру.

Существует также преимущество «мудрости толпы», которое исходит из идеала крипто-инноваций без разрешения. Несоответствующие второстепенные идеи, как правило, всплывают легче, чем те, которые направляются корпоративным руководством сверху. Инновационная структура OpenAI сильно отличается от этой. Конечно, он понял, как получить доступ к огромному массиву данных в Интернете и как обучить на нем невероятно эффективного LLM. Но, отказавшись от своего некоммерческого статуса с открытым исходным кодом, теперь он является закрытым оператором черного ящика, обязанным максимизировать прибыль требованиям своего нового корпоративного инвестора.

У нас есть выбор: хотим ли мы, чтобы ИИ был захвачен теми же концентрированными бизнес-моделями, что и в Web2? Или видение децентрализованного владения Web3 является более безопасным? Я знаю, что бы я выбрал.