💬 CHATGPT и Anpropic Team Up on First Cross Company AI Обзор безопасности безопасности от 2025-09-05

CHATGPT и Anpropic Team Up on First Cross Company AI Обзор безопасности безопасности

Openai и Anpropic, две из ведущих фирм в области искусственного интеллекта, провели редкое совместное исследование систем друг друга. 27 августа 2025 года оба соперника заявили, что закончили полный обзор безопасности, причем каждая компания провела свои собственные чеки на моделях другого. Оба затем выпустили результаты одновременно. Это знаменует собой первый раз, когда ведущие лаборатории ИИ открыли свои внутренние тесты для внешнего обзора прямым конкурентом. Это уникальное сотрудничество происходит в то время, когда внутренние отчеты из исследований Openai указывают на необъяснимую галлюцинацию чат -ботов и обход запросов на выключение.

Исследование охватывало четыре ключевых областях. В нем рассмотрено, насколько хорошо модели следуют пошаговым порядкам, как они сопротивляются взломам, известным как джейлбрейки, как часто они создают ложные ответы, и показывают ли они признаки скрытых намерений. Согласно отчетам, модели Claude Antropic были сильны при следующих слоистых заказах и блокировке утечек. Они также показали высокие показатели отказа, причем до 70% тестов заканчивались выбором, чтобы не отвечать, когда результат рискует быть ложным.

Напротив, модели Openai были более склонны ответить. У них были более низкие показатели отказа, но более высокие случаи ложных результатов. Тем не менее, они лучше поддержали тесты защиты джейлбрейка, с такими моделями, как Openai O3 и Openai O4-Mini, показывают меньше слабых точек.

Различные стили безопасности

В совместном обзоре показаны два различных пути безопасности. Подход Anpropic подчеркивает осторожность, даже если это означает отказ от большего количества вопросов. Системы OpenAI направлены на более широкое использование, хотя в некоторых тяжелых случаях они принимают более высокий риск ошибок. Обе фирмы сказали, что результаты были не рейтингом, а скорее способом лучше увидеть компромиссы.

Проект также ссылается на более широкий надзор. Обе фирмы заключают сделки с Институтом безопасности ИИ США для проверки моделей. Кроме того, OpenAI отметил, что результаты подтверждают свой запуск GPT-5, который предназначен для сокращения ошибок и улучшения безопасного использования.

Используя инструмент сравнения Tipranks, мы проанализировали несколько ведущих компаний, разрабатывающих чат -боты искусственного интеллекта, похожие на Claude's Anpropic. Этот вид бок о бок помогает инвесторам лучше понять каждую акцию, а также более широкий рынок чат-ботов.

Отказ от ответственности и DiscloSurerePort проблема