Перейти к основному содержимому
AXIOMA AI
Все новости ИИ в России
Госрегулирование

Приказ ФСТЭК №117: безопасная разработка ПО теперь учитывает AI-специфические угрозы

Приказ ФСТЭК №117: безопасная разработка ПО теперь учитывает AI-специфические угрозы
Госрегулирование
Приказ ФСТЭК №117 / AI-угрозы / prompt injection в модели угроз
ФСТЭК №117 + AI 2026: безопасная разработка включает prompt injection и adversarial attacks

Приказ ФСТЭК России №117 устанавливает требования к безопасной разработке ПО и впервые адресует AI-специфические угрозы: prompt injection, adversarial attacks, model poisoning. В 2026 году документ стал актуальным в связке с ФЗ-243 и новым Приказом ФСТЭК о модели угроз. Разработчики AI-решений, работающие с КИИ или ГИС, обязаны учитывать эти требования.

2026 год — Приказ ФСТЭК России №117 «О требованиях к безопасной разработке программного обеспечения» приобрёл новое значение в контексте массового внедрения AI в российские ИТ-системы.

Ключевые требования Приказа №117 применительно к AI: ```

  1. 1.Моделирование угроз (Threat Modeling):

→ Для AI-систем: включить AI-специфические угрозы → Prompt injection: обход инструкций через пользовательский ввод → Adversarial inputs: специально сконструированные данные → Model poisoning: атаки через обучающие данные → Data exfiltration через контекстное окно LLM

  1. 1.Безопасное проектирование (Secure by Design):

→ Input validation на уровне AI-компонента → Output sanitization: проверка ответов модели перед исполнением → Принцип наименьших привилегий для AI-агентов

  1. 1.Управление зависимостями:

→ Аудит сторонних моделей и библиотек ML → Software Bill of Materials (SBOM) для AI-систем → Контроль обновлений моделей

  1. 1.Тестирование безопасности:

→ Red-teaming AI-компонентов перед продакшном → Автоматизированный скан на prompt injection → Нагрузочное тестирование (denial-of-wallet атаки на LLM) ```

Связь с другими нормативными актами (2026):

ДокументСвязь с AI-безопасностью
ФЗ-243 (июль 2026)Требования к безопасности AI-моделей
Приказ ФСТЭК (сент 2026)Модель угроз для AI-систем
Приказ ФСТЭК №117Безопасная разработка AI-ПО
152-ФЗЗащита ПДн в AI-системах
ГОСТ Р 59276AI-терминология и качество

Кого касается:

  • Разработчики AI-решений для государственных информационных систем (ГИС)
  • Операторы критической информационной инфраструктуры (КИИ), внедряющие AI
  • Поставщики AI-сервисов для ФОИВов и РОИВ

Для AI-разработчиков — практически:

  1. 1.Включить AI threat model в общую модель угроз системы
  2. 2.Документировать меры защиты от prompt injection в архитектурных схемах
  3. 3.Провести red-team сессию перед сдачей системы заказчику
  4. 4.Оформить SBOM для AI-компонентов (модели + ML-библиотеки)

Это краткое изложение. Полный текст — на сайте источника:

Читать оригинал: sec.ussc.ru / computerra.ru

Как это касается вашего бизнеса

Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».