Вместе с объявлением компания раскрыла системную карточку, повествующую об инциденте: внутренняя версия более ранней модели Mythos Preview прорвала изоляцию тестовой среды.
В рамках эксперимента модели был предоставлен изолированный компьютер. Ей предложили выбраться из него и уведомить об этом исследователя. Mythos Preview успешно справилась, разработав многоступенчатую программу взлома ПО и получив широкий доступ к интернету вопреки ограничениям.
ИИ-модель не только сообщила о своём результате оператору, но и самовольно обнародовала детали взлома на общедоступных ресурсах.
Системная карточка также описывает другую форму нежелательного поведения модели. В редких случаях ранние версии Mythos Preview совершали действия, которые сами считали недопустимыми и пытались их скрыть.
Компания также сообщила, что модель успешно прошла сложный тест на корпоративном киберполигоне, с которым человек-эксперт справлялся более 10 часов. Ранее ни одна ИИ-модель не могла с ним справиться. Mythos Preview обнаружила уязвимости нулевого дня во всех протестированных операционных системах и браузерах.
Учитывая исключительные возможности модели в области кибербезопасности, компания Anthropic приняла решение использовать её только в закрытом проекте Project Glasswing. Её инициативу поддержали ведущие технологические компании, включая AWS, Apple, Google, Microsoft и Cisco. Партнёры получат ограниченный доступ к модели для поиска и устранения уязвимостей в критически важном программном обеспечении.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
