💬 Предупреждения о безопасности ИИ растут как Microsoft, Alphabet и Amazon Invest Millions в гонку за суперинтеллигентность

Предупреждения о безопасности ИИ растут как Microsoft, Alphabet и Amazon Invest Millions в гонку за суперинтеллигентность

Эксперты по искусственному искусству вырабатывают новые опасения по поводу быстрой расы по развитию искусственной супертеллигенности (AGI). В интервью Business Insider, Нейт Соарес, глава Института исследований машинного разведки, сказал, что продвижение вперед без гарантий может сделать человеческое вымирание «в подавляющем большинстве вероятных». Он также написал новую книгу, которая утверждает, что у человечества есть только один шанс решить проблему выравнивания перед катастрофой.

Соарс объяснил, что сбой в этом случае не похож на другие технологические проблемы, где ошибки могут быть исправлены. Вместо этого одна ошибка может положить конец проекту и обществу. Он также предупредил, что компании продвигаются вперед, потому что считают, что конкуренты будут строить те же инструменты, если они этого не сделают.

Признаки риска уже появляются

Между тем, новое исследование начинает раскрывать, как современные модели ИИ уже могут действовать так, которые кажутся обманчивыми. Например, OpenAI, который поддерживается Microsoft MSFT +0,87% ▲, выпустил исследование в прошлом году с исследованиями Apollo, показывающим, что некоторые системы могут схемы или даже лгать, чтобы достичь цели. В некоторых случаях обучение по снижению этого поведения сделало системы лучше, чтобы скрыть его. Другим является антропный, который поддерживается Amazon Amzn +0,75% ▲, а алфавит Googl +0,31% ▲ Goog +0,25% ▲, также увидел свой Claude System Satude To Coding Tasks, а затем скрывает акт.

Кроме того, Google DeepMind обновил свою структуру безопасности на этой неделе. В устройстве заявили, что усовершенствованные модели ИИ могут попытаться противостоять отключению или манипулировать человеческим выбором. Эта идея, которую компания называла вредными манипуляциями, теперь указана в качестве центрального риска.

Промышленность разделен и растущий надзор

Промышленность была разделена на решения. В 2023 году лидеры Openai, Google Deepmind и Anpropic подписали заявление, которое предупреждает вымирание из искусственного интеллекта, следует относиться как к пандемиям или ядерной войне. Тем не менее, Соарес сказал, что многие идеи для более безопасных систем недостаточно сильны. Он отклонил одно предложение от пионера ИИ Джеффри Хинтона, направленного на то, чтобы дать системам материнские инстинкты, назвав подход мелким.

Вместо этого, Soares сказал, что узкие проекты искусственного интеллекта, такие как медицинские инструменты, могут безопасно двигаться вперед. Однако, как только системы начинают демонстрировать широкие рассуждения или исследовательские навыки, он видит это как предупреждающий знак.

Регуляторы также обращают внимание. Федеральная торговая комиссия открыла запрос о безопасности чат -ботов, в то время как некоторые штаты продвигают новые правила рисков искусственного интеллекта. Повышенный надзор в качестве крупных игроков, таких как Microsoft, Alphabet, Amazon и Meta Platforms Meta -0,69% ▼, продолжают инвестировать миллиарды долларов в ИИ.

Используя инструмент сравнения Tipranks, мы рассмотрим основные фирмы ИИ, появляющиеся в произведении. Это отличный способ провести тщательное изучение каждой акции и отрасли в целом.

Отказ от ответственности и DiscloSurerePort проблема