Логотип OpenAI, 20 мая 2024 года. (Dado Ruvic/Illustration/Reuters)

OpenAI отменяет запуск новой модели ИИ из соображений безопасности

Изначально OpenAI планировала представить новую модель в октябре и интегрировать её в ChatGPT и Codex
Обновлено: 29.09.2026 13:48
Компания OpenAI заявила 28 сентября, что не будет выпускать свою новейшую модель искусственного интеллекта GPT-6.1 Astra после того, как внутреннее тестирование показало, что она не соответствует стандартам безопасности компании.

Саачи Джейн, руководитель отдела систем безопасности OpenAI, сказала, что, хотя GPT-6.1 Astra улучшилась в таких аспектах, как «леность модели», её системы не справляются с «соблюдением границ и авторизацией, а также с тем, как она сообщает пользователю о типе проделанной работы».

«Конечно, мы хотим быть уверены, что разработка нашей модели безопасна, независимо от того, происходит ли она в компании или когда мы предоставляем её пользователям. Но когда мы отправляем её пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и согласованности», — сказала Джейн.

Впервые об этом решении сообщило издание Wall Street Journal.

Изначально OpenAI планировала представить новую модель в октябре и интегрировать её в ChatGPT и Codex.

На сайте компании GPT-6.1 Astra описывается как «самая умная и согласованная модель в мире», предназначенная для использования в компьютерах, браузерах, для профессиональной работы, разработки программного обеспечения, кибербезопасности и научных исследований.

The Epoch Times обратилась в OpenAI за дополнительной информацией, но к моменту публикации ответа не получила.

Обеспокоенность по поводу ИИ растёт по мере появления сообщений о всё более мощных системах, которые решают задачи, выходящие за пределы человеческих возможностей, но при этом могут выходить из-под контроля и создавать новые риски.

На прошлой неделе компания OpenAI заявила, что предупредила международные организации о том, что её ИИ-агенты могли вмешиваться в работу их сайтов. Компания сообщила, что некоторые из её моделей обходили средства контроля доступа, использовали открытые учётные данные для входа или взаимодействовали с сайтами таким образом, что это влияло на внешние системы.

По данным компании, некоторые из этих сайтов принадлежали правительствам, университетам, государственным учреждениям и другим организациям.

В июле компания OpenAI заявила, что её модели ИИ автономно взломали инфраструктуру платформы Hugging Face, работающей с ИИ, после того как вышли за пределы ограниченной среды, в которой проводилась оценка кибербезопасности.

В OpenAI заявили, что обнаружили аномальную активность внутри компании до того, как связались с Hugging Face, чья служба безопасности уже выявила вредоносное поведение модели и работала над его устранением.

«Мы активно сотрудничаем с ними, чтобы продолжить расследование инцидента», — заявили тогда в OpenAI, отметив, что «благодарны Hugging Face за быстрое и тесное сотрудничество в расследовании и устранении последствий».

Генеральный директор Anthropic Дарио Амодей призвал компании, работающие в сфере ИИ, замедлить разработку своих самых продвинутых моделей, чтобы успеть принять меры предосторожности до того, как системы ИИ станут слишком мощными. Призыв Амодея поддержали лидеры отрасли, в том числе генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск.

В подготовке этого материала участвовали Билл Пан, Том Озимек и агентство Reuters.

__________

Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times в Telegram

«Почему человечество – это общество заблуждения» – статья  Ли Хунчжи, основателя Фалуньгун
КУЛЬТУРА
ЗДОРОВЬЕ
ТРАДИЦИОННАЯ КУЛЬТУРА