Приказ ФСТЭК №117: безопасная разработка ПО теперь учитывает AI-специфические угрозы
Приказ ФСТЭК России №117 устанавливает требования к безопасной разработке ПО и впервые адресует AI-специфические угрозы: prompt injection, adversarial attacks, model poisoning. В 2026 году документ стал актуальным в связке с ФЗ-243 и новым Приказом ФСТЭК о модели угроз. Разработчики AI-решений, работающие с КИИ или ГИС, обязаны учитывать эти требования.
2026 год — Приказ ФСТЭК России №117 «О требованиях к безопасной разработке программного обеспечения» приобрёл новое значение в контексте массового внедрения AI в российские ИТ-системы.
Ключевые требования Приказа №117 применительно к AI: ```
- 1.Моделирование угроз (Threat Modeling):
→ Для AI-систем: включить AI-специфические угрозы → Prompt injection: обход инструкций через пользовательский ввод → Adversarial inputs: специально сконструированные данные → Model poisoning: атаки через обучающие данные → Data exfiltration через контекстное окно LLM
- 1.Безопасное проектирование (Secure by Design):
→ Input validation на уровне AI-компонента → Output sanitization: проверка ответов модели перед исполнением → Принцип наименьших привилегий для AI-агентов
- 1.Управление зависимостями:
→ Аудит сторонних моделей и библиотек ML → Software Bill of Materials (SBOM) для AI-систем → Контроль обновлений моделей
- 1.Тестирование безопасности:
→ Red-teaming AI-компонентов перед продакшном → Автоматизированный скан на prompt injection → Нагрузочное тестирование (denial-of-wallet атаки на LLM) ```
Связь с другими нормативными актами (2026):
| Документ | Связь с AI-безопасностью |
|---|---|
| ФЗ-243 (июль 2026) | Требования к безопасности AI-моделей |
| Приказ ФСТЭК (сент 2026) | Модель угроз для AI-систем |
| Приказ ФСТЭК №117 | Безопасная разработка AI-ПО |
| 152-ФЗ | Защита ПДн в AI-системах |
| ГОСТ Р 59276 | AI-терминология и качество |
Кого касается:
- Разработчики AI-решений для государственных информационных систем (ГИС)
- Операторы критической информационной инфраструктуры (КИИ), внедряющие AI
- Поставщики AI-сервисов для ФОИВов и РОИВ
Для AI-разработчиков — практически:
- 1.Включить AI threat model в общую модель угроз системы
- 2.Документировать меры защиты от prompt injection в архитектурных схемах
- 3.Провести red-team сессию перед сдачей системы заказчику
- 4.Оформить SBOM для AI-компонентов (модели + ML-библиотеки)
Это краткое изложение. Полный текст — на сайте источника:
Читать оригинал: sec.ussc.ru / computerra.ruРешения AXIOMA AI по теме статьи
Ещё по теме: госрегулирование
Закон об искусственном интеллекте принят — но не тот, который обсуждали весной
Сбер, Яндекс, VK и другие просят Минцифры: разрешить обучать ИИ на обезличенных данных без согласия граждан
ФСТЭК обновляет требования ИБ для AI-систем: что меняется при использовании нейросетей в КИИ
Как это касается вашего бизнеса
Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».

