💬 Открытое письмо предупреждает об искусственном интеллекте — и это должно относиться и к криптовалюте

Открытое письмо предупреждает об искусственном интеллекте — и это должно относиться и к криптовалюте

И ИИ, и криптовалюта развиваются с головокружительной скоростью и являются глубоко техническими, что затрудняет их регулирование, но информаторов заставляют замолчать.

Еще одна неделя и еще одно предупреждение об искусственном интеллекте.

Однако это открытое письмо, в котором выражаются опасения, что оно может усугубить неравенство, способствовать распространению дезинформации и привести к появлению неконтролируемых систем искусственного интеллекта, которые «потенциально могут привести к вымиранию человечества», произвело иное впечатление.

Почему? Потому что четверо из анонимных подписавшихся являются нынешними сотрудниками OpenAI, создателя широко популярного ChatGPT. Еще шестеро там работали.

Тот факт, что так много людей, непосредственно вовлеченных в внедрение ИИ в массы, опасаются за будущее, имеет большое значение. Хотя они верят, что эта все еще зарождающаяся технология может принести человечеству «беспрецедентную пользу», они опасаются, что общественность – и регулирующие органы – не понимают всей картины.

«Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности их защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что они все поделятся этим добровольно». Право на предупреждение

«Компании, занимающиеся искусственным интеллектом, обладают существенной закрытой информацией о возможностях и ограничениях своих систем, адекватности их защитных мер и уровнях риска различных видов вреда. Однако в настоящее время у них есть лишь слабые обязательства по обмену частью этой информации с правительствами, а не с гражданским обществом. Мы не думаем, что можно рассчитывать на то, что они все поделятся этим добровольно».

Параллели между искусственным интеллектом и криптопространством довольно резкие. Обе отрасли развиваются с головокружительной скоростью и являются глубоко техническими. Это создает огромные камни преткновения как для правительств, так и для регулирующих органов. Во-первых, некоторым политикам может быть сложно разобраться в самой проблеме. Просто спросите представителя США Брэда Шермана, который позорно назвал создателя Биткойна «Саратоши Нагамото».

«Я не верю, что Саратоши Нагамото был новатором». #Биткойну плевать. pic.twitter.com/y3zNB46i49 — Гути ₿ ?? ?? (@guti_uno) 27 июля 2023 г.

«Я не верю, что Саратоши Нагамото был новатором». #Биткойну плевать. pic.twitter.com/y3zNB46i49

Отсюда становится трудно подготовить грамотные законы, которые поощряют инновации среди хороших участников и одновременно сдерживают преступность среди плохих. И к тому времени, когда власти это поймут, такие отрасли зачастую станут настолько неузнаваемыми, что рассматриваемое законодательство не сможет отразить реалии того, как используются технологии… и где кроются самые большие риски. Показательно, что в США по-прежнему наблюдается значительный паралич регулирования в отношении криптовалют — спустя более 15 лет после первого запуска Биткойна.

Как отмечается в открытом письме, посвященном ИИ, отсутствие эффективного государственного надзора означает, что существует огромная зависимость от информаторов внутри компаний, которые должны привлечь их к ответственности. Одна из самых больших проблем авторов связана с тем, как соглашения о конфиденциальности эффективно удерживают их от высказываний.

«Обычные меры защиты информаторов недостаточны, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия». Право на предупреждение

«Обычные меры защиты информаторов недостаточны, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия».

Опять же, здесь существует симметрия между искусственным интеллектом и криптовалютой, о чем свидетельствует недавний, углубленный и разоблачающий отчет, опубликованный независимым экспертом, которому было поручено расследовать крах FTX в 2022 году. В этом случае было обнаружено, что шесть анонимных информаторов с законными концерны были оплачены на сумму 25 миллионов долларов. Одному из них было приказано извиниться перед ныне находящимся в тюрьме генеральным директором Сэмом Бэнкман-Фридом, и в итоге после ухода со своей должности он достиг соглашения о выплате 16 миллионов долларов.

Хотя криптоиндустрия добилась многообещающих успехов в исправлении прошлых ошибок после множества банкротств в последние годы (в том числе BlockFi, Voyager и Celsius), можно утверждать, что предстоит еще многое сделать. И это делает четыре обязательства, предложенные компаниям, занимающимся искусственным интеллектом, в этом открытом письме, особенно применимыми к сектору цифровых активов.

Ведущим компаниям, занимающимся искусственным интеллектом, предлагается воздержаться от применения положений, которые запрещают критику обслуживать сотрудников, обеспокоенных возникающими рисками, а также ввести анонимные процедуры, чтобы можно было сообщать о проблемах советам директоров, регулирующим органам и экспертам. Некоторых крупнейших споров в сфере криптовалют можно было бы избежать, если бы были приняты аналогичные меры защиты.

Помимо принятия культуры открытой критики, лидерам ИИ предлагается поклясться, что они не будут мстить работникам, которые разглашают конфиденциальную информацию после исчерпания всех других возможностей обострить проблему.

Неясно, насколько это открытое письмо сдвинет иглу в стремлении регулировать ИИ. И есть что сказать о присущей технологии блокчейна прозрачности, где поток средств — и записи транзакций — можно отслеживать в режиме реального времени. Большие языковые модели, обычно создаваемые за закрытыми дверями, гораздо более непрозрачны по сравнению с этим.

Но последствия бездействия и потенциальный вред, с которым сталкиваются повседневные потребители, одинаково ужасны в обеих отраслях. Слишком много криптоинвесторов потеряли свои сбережения из-за того, что они не были должным образом проинформированы о рисках — из-за отсутствия координации между международными регуляторами, чтобы не допустить, чтобы оффшорные злоумышленники оставались бесконтрольными. И поскольку с каждым днем ​​ИИ становится все умнее и интуитивно понятнее пользователю, теперь средства к существованию миллионов трудолюбивых людей также могут оказаться под угрозой.