Минцифры обяжет разработчиков AI фильтровать контент: запрет генерации противоправных материалов
В апреле 2026 года Минцифры включило в законопроект об ИИ требование об обязательной фильтрации генерируемого контента. Все российские AI-системы должны технически исключать возможность генерации противоправных материалов. Аналитики сравнивают подход с китайским регулированием LLM с 2023 года.
Минцифры оформило в законопроект об ИИ требование об обязательной контентной фильтрации для всех AI-систем в России.
Суть требования: Все российские AI-системы обязаны:
- 1.Технически исключить генерацию контента, нарушающего российское законодательство
- 2.Внедрить механизмы фильтрации на уровне модели или постпроцессинга
- 3.Документировать принятые меры
- 4.Реагировать на предписания Роскомнадзора
Категории запрещённого контента:
| Категория | Правовое основание |
|---|---|
| Экстремистские материалы | ФЗ-114, ФЗ-149 |
| Детский контент (CSAM) | УК РФ ст. 242.1 |
| Фейки о госорганах | ФЗ-149 |
| Дискредитация армии | ФЗ (2022) |
Технические подходы:
- Guardrails на уровне модели: дообучение с исключением запрещённых ответов
- Постпроцессинг: классификатор выходного текста
- Blocklist: списки запрещённых тем и контекстов
- Мониторинг и логирование для аудита РКН
Международные аналоги:
| Страна | Подход |
|---|---|
| Китай | Обязательная регистрация + «социалистические ценности» (с 2023) |
| ЕС | Запрет манипулятивного AI (EU AI Act) |
| США | Добровольные стандарты |
| Россия | Обязательная фильтрация (проект, с 2027) |
Для бизнеса:
- Для CTO, разрабатывающих AI: техническая реализация фильтрации — R&D затраты, учтите в дорожной карте
- Для компаний с AI-чатботами: проверьте, что ваш AI отвечает на провокационные запросы корректно
- Для DPO: логирование AI-взаимодействий для аудита РКН = дополнительная обработка ПДн. Нужно правовое основание
- Для стартапов: compliance с фильтрацией = вход в реестр доверенных моделей → доступ к госданным
Это краткое изложение. Полный текст — на сайте источника:
Читать оригинал: Anti-Malware.ru / МинцифрыРешения AXIOMA AI по теме статьи
Ещё по теме: госрегулирование
Закон об искусственном интеллекте принят — но не тот, который обсуждали весной
Сбер, Яндекс, VK и другие просят Минцифры: разрешить обучать ИИ на обезличенных данных без согласия граждан
ФСТЭК обновляет требования ИБ для AI-систем: что меняется при использовании нейросетей в КИИ
Как это касается вашего бизнеса
Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».

