Совместное руководство США и союзников по безопасности агентного ИИ: что нужно знать enterprise

01Введение

Агентный искусственный интеллект (agentic AI) — системы, способные самостоятельно принимать решения и выполнять действия в рамках заданных целей — всё активнее внедряется в критическую инфраструктуру и оборонные среды. Однако вместе с новыми возможностями приходят и новые угрозы.

В мае 2026 года разведывательные и кибербезопасные ведомства США, Австралии, Канады, Новой Зеландии и Великобритании опубликовали совместное руководство по безопасности агентных ИИ-систем. Документ, озаглавленный «Careful Adoption of Agentic AI Services», подготовлен Агентством национальной безопасности США (NSA) совместно с партнёрами по «Пяти глазам».

Для CISО, архитекторов безопасности и compliance-офицеров это руководство — важный ориентир при планировании корпоративных развертываний агентного ИИ.

02Основные риски агентного ИИ

Согласно документу, NSA выделяет пять ключевых категорий рисков, связанных с использованием агентных ИИ-систем:

• Привилегированные риски (Privilege risks) — связаны с избыточными правами доступа, которые может получить агент.
• Риски проектирования и конфигурации (Design and configuration risks) — ошибки на этапе архитектуры и настройки системы.
• Риски поведения (Behavior risks) — непредсказуемые или нежелательные действия агента.
• Структурные риски (Structural risks) — уязвимости, заложенные в архитектуре взаимодействия компонентов.
• Риски подотчётности (Accountability risks) — неясность в том, кто несёт ответственность за действия агента.

Кроме того, агентные ИИ-системы наследуют все риски, присущие большим языковым моделям (LLM), что дополнительно усложняет ландшафт угроз.

03Лучшие практики безопасности: жизненный цикл агента

Руководство предлагает набор практик, охватывающих все этапы жизненного цикла агентного ИИ:

1. Проектирование безопасных агентов — закладывание безопасности на этапе архитектуры.
2. Разработка безопасных агентов — применение безопасных методов кодирования и тестирования.
3. Управление сторонними компонентами — контроль за библиотеками, моделями и сервисами от внешних поставщиков.
4. Безопасное развёртывание агентов — поэтапный ввод в эксплуатацию с непрерывной оценкой.
5. Безопасная эксплуатация агентов — мониторинг, логирование и реагирование на инциденты.

Особый акцент сделан на необходимости сильного управления (governance), строгого мониторинга, явной подотчётности и человеческого контроля на всех этапах.

04Преемственность с предыдущими инициативами

Новое руководство не возникло на пустом месте. Оно опирается на предыдущие совместные усилия:

• В 2025 году CISA (Агентство по кибербезопасности и защите инфраструктуры США) вместе с союзниками выпустило рекомендации для операторов критической инфраструктуры, внедряющих ИИ в операционные технологические системы.
• Ранее NSA и международные партнёры опубликовали отдельный документ с лучшими практиками по защите данных на всём протяжении жизненного цикла ИИ.

Таким образом, текущее руководство логично дополняет и развивает ранее выпущенные материалы, фокусируясь именно на специфике агентных систем.

05Что мы не знаем из кейса

Важно понимать границы применимости опубликованного документа:

• Руководство не содержит конкретных технических спецификаций или кода — это стратегический документ, задающий рамки.
• Не раскрываются детали реализации для конкретных отраслей (например, энергетика, транспорт, финансы).
• Отсутствуют количественные метрики эффективности предложенных мер.
• Не указаны сроки внедрения или обязательность исполнения — документ носит рекомендательный характер.

06Вывод для enterprise

Для организаций, планирующих внедрение агентного ИИ, совместное руководство «Пяти глаз» — это не просто свод рекомендаций, а сигнал о формировании единого подхода к безопасности на межгосударственном уровне. Enterprise-командам стоит:

• Интегрировать описанные риски в свои модели угроз.
• Пересмотреть процессы управления доступом и подотчётности для ИИ-агентов.
• Обеспечить поэтапное развёртывание с обязательным human-in-the-loop.
• Учитывать преемственность с предыдущими рекомендациями CISA и NSA.

Безопасность агентного ИИ — это не разовое мероприятие, а непрерывный процесс, требующий координации между разработчиками, безопасниками и бизнесом.

Перевод и адаптация AIDF. Материал основан на фактах из оригинальной публикации ExecutiveGov.