«Представьте себе хакера, который не ест, не спит, не устает и никогда не перестает искать лазейку», — говорится в заявлении группы Google Threat Intelligence Group.
Согласно последнему отчету AI Threat Tracker, злоумышленники уже используют автономные фреймворки на основе больших языковых моделей (LLM). Они непрерывно сканируют обновления программного обеспечения, выявляют исправленные уязвимости и разрабатывают атаки на их основе. Все это происходит без участия человека.
В Google подчеркнули, что невозможно противостоять угрозам, действующим со скоростью машин, используя исключительно человеческие методы реагирования. Поэтому компания работает над созданием систем защиты от автономных ИИ-агентов.
По словам Джона Халтквиста, главного аналитика Google Threat Intelligence Group, злоумышленники в основном используют уже известные методы.
«По большей части злоумышленники не применяют принципиально новые, революционные методы проникновения в системы. Они по-прежнему нацеливаются на известные, но не устраненные уязвимости. Однако теперь делают это гораздо быстрее и в гораздо больших масштабах», — заявил он.
Халтквист отметил, что традиционные методы защиты уже не позволяют эффективно противостоять таким угрозам.
Вместо ручного реагирования компаниям необходимо переходить к автономным системам защиты (agentic defense). В противном случае защитники рискуют отстать от злоумышленников.
Автоматизация поиска уязвимостей
В сопутствующем отчете Google сообщила о росте числа атак с использованием больших языковых моделей (LLM).
Злоумышленники применяют их для автоматизации обратной разработки программных исправлений. В частности, они используют дифференциальный анализ патчей, чтобы выявлять уязвимости в серверах, доступных через интернет.
По данным компании, этот процесс все чаще осуществляется полностью автоматически, без участия человека.
Google также отметила финансовую мотивацию подобных атак. Злоумышленники могут похищать учетные данные для доступа к LLM и ресурсы облачных платформ из скомпрометированных систем. Затем они перепродают доступ к мощным языковым моделям через прокси-сервисы.
Использование ИИ для информационных операций
Google также зафиксировала расширение применения LLM в информационных операциях.
«Поддерживаемые государством группировки, коммерческие поставщики услуг по оказанию влияния (Influence-as-a-Service) и сети, занимающиеся политической монетизацией с помощью фиктивных аккаунтов, теперь регулярно используют большие языковые модели в своей деятельности», — заявили представители компании.
По их словам, ИИ применяется для массового создания синтетического контента, разработки локализованных образов и автоматизации распространения материалов на различных платформах.
Предупреждение Google прозвучало после заявления ФБР об использовании преступниками инструмента ARTEX.
Это инструмент с открытым исходным кодом на базе искусственного интеллекта. Он предназначен для тестирования безопасности сетей и компьютерных систем. Однако его также можно использовать для проведения кибератак.
По данным ФБР, ARTEX применялся против различных организаций и компаний. При этом инструмент позволяет проводить атаки даже людям без глубоких технических знаний.
«Различные злоумышленники использовали ARTEX для проведения кампаний против организаций по всему миру. Среди затронутых секторов — финансовые услуги, государственные учреждения, технологии, оборонная промышленность, производство полупроводников, энергетика, здравоохранение, промышленность, телекоммуникации и юридические услуги», — сообщило ФБР.
В одном из описанных случаев злоумышленники использовали ARTEX для хищения персональных данных примерно 67 000 человек. Пострадавшими стали клиенты южнокорейских финансовых учреждений.
Предполагаемый разработчик и использование ARTEX
Американская компания по кибербезопасности CrowdStrike сообщила о возможной причастности 26-летнего гражданина Китая к атакам на южнокорейские банки.
По оценке специалистов компании, подозреваемый использовал ИИ-агент ARTEX совместно с Claude Code от Anthropic.
CrowdStrike также заявила, что ARTEX был разработан в Китае. Несколько недель назад инструмент удалили с платформы GitHub.
Недавние сбои в работе банков и государственных систем
На фоне этих предупреждений за последние несколько дней произошли сбои в работе нескольких банков, технологических компаний и государственных систем.
Во вторник Apple сообщила о неполадках в работе ряда своих продуктов. Среди них оказался популярный магазин приложений App Store. Причиной сбоя стала ошибка при внутреннем обновлении.
В понедельник перебои затронули JPMorgan Chase, Wells Fargo, US Bank и другие финансовые учреждения.
Ранее, 13 ноября, Федеральное авиационное управление США объявило о приостановке вылетов во всех аэропортах страны. Причиной стал сбой внутренней системы связи.
Министр внутренней безопасности США Марквейн Маллин затронул эту тему в недавнем интервью телеканалу Fox News. По его словам, причиной последних сбоев в работе крупных банков и авиационных систем мог стать искусственный интеллект.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times в Telegram






































