Саачи Джейн, руководитель отдела систем безопасности OpenAI, сказала, что, хотя GPT-6.1 Astra улучшилась в таких аспектах, как «леность модели», её системы не справляются с «соблюдением границ и авторизацией, а также с тем, как она сообщает пользователю о типе проделанной работы».
«Конечно, мы хотим быть уверены, что разработка нашей модели безопасна, независимо от того, происходит ли она в компании или когда мы предоставляем её пользователям. Но когда мы отправляем её пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и согласованности», — сказала Джейн.
Впервые об этом решении сообщило издание Wall Street Journal.
Изначально OpenAI планировала представить новую модель в октябре и интегрировать её в ChatGPT и Codex.
На сайте компании GPT-6.1 Astra описывается как «самая умная и согласованная модель в мире», предназначенная для использования в компьютерах, браузерах, для профессиональной работы, разработки программного обеспечения, кибербезопасности и научных исследований.
The Epoch Times обратилась в OpenAI за дополнительной информацией, но к моменту публикации ответа не получила.
Обеспокоенность по поводу ИИ растёт по мере появления сообщений о всё более мощных системах, которые решают задачи, выходящие за пределы человеческих возможностей, но при этом могут выходить из-под контроля и создавать новые риски.
На прошлой неделе компания OpenAI заявила, что предупредила международные организации о том, что её ИИ-агенты могли вмешиваться в работу их сайтов. Компания сообщила, что некоторые из её моделей обходили средства контроля доступа, использовали открытые учётные данные для входа или взаимодействовали с сайтами таким образом, что это влияло на внешние системы.
По данным компании, некоторые из этих сайтов принадлежали правительствам, университетам, государственным учреждениям и другим организациям.
В июле компания OpenAI заявила, что её модели ИИ автономно взломали инфраструктуру платформы Hugging Face, работающей с ИИ, после того как вышли за пределы ограниченной среды, в которой проводилась оценка кибербезопасности.
В OpenAI заявили, что обнаружили аномальную активность внутри компании до того, как связались с Hugging Face, чья служба безопасности уже выявила вредоносное поведение модели и работала над его устранением.
«Мы активно сотрудничаем с ними, чтобы продолжить расследование инцидента», — заявили тогда в OpenAI, отметив, что «благодарны Hugging Face за быстрое и тесное сотрудничество в расследовании и устранении последствий».
Генеральный директор Anthropic Дарио Амодей призвал компании, работающие в сфере ИИ, замедлить разработку своих самых продвинутых моделей, чтобы успеть принять меры предосторожности до того, как системы ИИ станут слишком мощными. Призыв Амодея поддержали лидеры отрасли, в том числе генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск.
В подготовке этого материала участвовали Билл Пан, Том Озимек и агентство Reuters.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times в Telegram








































