Профиль кибербезопасности ИИ от NIST распространяет CSF 2.0 на ИИ-системы
16 декабря 2025 года Национальный институт стандартов и технологий США (NIST) представил предварительный проект профиля кибербезопасности ИИ, который поможет организациям управлять рисками безопасности искусственного интеллекта. Руководство, разработанное совместно с корпорацией MITRE, распространяет действующие стандарты кибербезопасности на ИИ-системы, модели и рабочие процессы. Для корпоративных отделов управления рисками данный профиль решает задачу интеграции ИИ-приложений и сторонних сервисов в существующие программы рисков NIST Cybersecurity Framework 2.0 без создания новых административных структур.
Как NIST IR 8596 распространяет CSF 2.0 на ИИ-системы
NIST IR 8596 представляет собой общественный профиль (Community Profile), опубликованный Национальным институтом стандартов и технологий в виде предварительного проекта 16 декабря 2025 года. Публикация распространяет результаты NIST Cybersecurity Framework 2.0, состоящие из функций, категорий и подкатегорий, на системы искусственного интеллекта. В число авторов проекта входят Катерина Мегас и Барбара Кутилл из NIST, а также Марисса Доттер, Майкл Гаррис, Ишика Кхемани, Бронвин Патрик, Ноа Широ, Джули Нетери Снайдер и Мохаммад Зареи из MITRE. Сбор общественных комментариев проходил до 30 января 2026 года для подготовки первичного публичного проекта.
Что охватывает проект профиля кибербезопасности ИИ от NIST в трех ключевых направлениях
Проект профиля кибербезопасности ИИ от NIST структурирует руководящие принципы вокруг трех основных направлений для учета рисков и возможностей. Первое направление, Secure (Защита), сосредоточено на безопасности компонентов ИИ-систем путем распространения управления уязвимостями на фреймворки ИИ, библиотеки программного обеспечения и аппаратное обеспечение систем, которые организации эксплуатируют или закупают. Второе направление, Defend (Оборона), сфокусировано на проведении киберобороны с применением ИИ, например, использовании ИИ для масштабного анализа журналов безопасности с подтверждением человеком перед принятием защитных мер. Третье направление, Thwart (Противодействие), нацелено на нейтрализацию кибератак с применением ИИ путем отслеживания данных об угрозах из таких источников, как MITRE ATLAS и OWASP Top 10 для больших языковых моделей.
Как фреймворк кибербезопасности ИИ от NIST применяет шесть основных функций
Фреймворк кибербезопасности ИИ от NIST переводит шесть основных функций CSF 2.0 в конкретные действия для развертывания искусственного интеллекта. В рамках функции Govern (Управление) организации назначают конкретного ответственного за риски ИИ, утверждают политику допустимого использования и ведут учет всех ИИ-систем. В рамках функции Identify (Идентификация) команды каталогизируют модели, наборы данных, промпты, интерфейсы прикладного программирования (API) и сторонние ИИ-сервисы вместе с данными, к которым обращается каждый из них. Функция Protect (Защита) требует применения принципа наименьших привилегий, ограничений для данных и контроля доступа к ИИ-системам и учетным данным. Функция Detect (Обнаружение) предписывает отслеживать поведение ИИ, включая необычные вызовы инструментов или доступ к данным, а не ограничиваться только базовой инфраструктурой. Функция Respond (Реагирование) готовит меры по локализации инцидентов, такие как отключение ИИ-агента или отзыв прав доступа. Наконец, функция Recover (Восстановление) требует сохранения заведомо исправных версий моделей и источников данных с параллельным тестированием восстановления сервисов.
Что профиль меняет для управления корпоративными рисками
Для корпоративных команд по управлению рисками профиль меняет подход к интеграции ИИ-систем в существующий организационный надзор за рисками. Стандарт CSF 2.0 остается технологически нейтральным для сред IT, OT, IoT, облачных, мобильных технологий и искусственного интеллекта, поэтому компаниям не нужно ждать отдельного фреймворка перед внедрением ИИ. Профиль решает задачу включения чат-ботов, скоринговых моделей и программного обеспечения с ИИ в утвержденные программы рисков кибербезопасности. Включая ИИ-активы в существующие записи обработки, проверки управления и мониторинг рисков, организации избегают дублирования программ комплаенса для ИИ-инструментов.
Как соотносятся NIST CSF 2.0 и AI RMF при управлении рисками
Сравнение NIST CSF 2.0 и AI RMF показывает, как NIST координирует общие стандарты кибербезопасности со специализированными руководствами по искусственному интеллекту. В то время как NIST AI Risk Management Framework сосредоточен на повышении общей надежности ИИ, профиль NIST CSF 2.0 для ИИ внедряет эти аспекты ИИ непосредственно в программу кибербезопасности, согласованную с CSF. Соблюдение профиля является добровольным. Для поддержки внедрения NIST запланировал семинар Cyber AI Workshop на 14 января 2026 года, посвященный наложениям элементов управления SP 800-53 для защиты ИИ-систем, а также виртуальные рабочие сессии 28 апреля, 5 мая и 12 мая 2026 года.
Вопросы и ответы
Что представляет собой профиль кибербезопасности ИИ от NIST?
Профиль кибербезопасности ИИ от NIST (NIST Cyber AI Profile) представляет собой общественный профиль, опубликованный как NIST IR 8596, который содержит руководящие принципы управления рисками кибербезопасности ИИ-систем и применения ИИ для усиления киберзащиты. Он структурирован вокруг результатов, функций, категорий и подкатегорий NIST Cybersecurity Framework 2.0.
Является ли соблюдение NIST IR 8596 обязательным для бизнеса?
Нет, соблюдение NIST IR 8596 является добровольным. Документ служит общественным профилем, который помогает организациям внедрять технологии искусственного интеллекта в существующие добровольные программы кибербезопасности.
Чем профиль кибербезопасности ИИ отличается от NIST AI RMF?
Фреймворк управления рисками ИИ (NIST AI Risk Management Framework) содержит руководящие указания по повышению общей надежности ИИ, тогда как профиль кибербезопасности ИИ внедряет вопросы ИИ непосредственно в существующую программу управления рисками Cybersecurity Framework 2.0.
Взгляд MOZGII
Как бы мы это построили
Чтобы построить корпоративную ИИ-систему с таким профилем, мы бы начали с создания централизованного учета всех моделей, промптов, датасетов и программных интерфейсов. Каждый сторонний ИИ-сервис и внутренний инструмент скоринга регистрировал бы свои потоки данных до запуска в эксплуатацию. Шаблоны промптов и обучающие датасеты мы бы хранили в репозиториях с ограничением доступа. Такая структура гарантировала бы, что у каждого автоматического агента есть ответственный за риски и четкие права.
Для контроля во время работы мы бы направляли все действия агентов через инспекционный прокси. Этот прокси отслеживал бы вызовы инструментов и отмечал неожиданные запросы данных или необычный сетевой трафик. Мы бы требовали одобрения человека каждый раз, когда автоматическая система защиты пытается изолировать сегменты сети или изменить правила доступа. Если сторонний интерфейс изменится или промпт-инъекция обойдет защитные барьеры, система мониторинга автоматически отозвала бы учетные данные затронутого агента.
Главная метрика, которую мы бы отслеживали, это время обнаружения и отключения скомпрометированной модели или агента. Для подготовки к восстановлению мы бы создали автоматические механизмы отката, мгновенно возвращающие проверенные версии моделей и надежные источники данных. Затем мы бы настроили автоматический импорт данных об угрозах, чтобы сканировать библиотеки моделей по базам вроде MITRE ATLAS и спискам OWASP.
Источники
Откуда взяты факты этой новости.