Перейти к основному содержимому
AXIOMA AI
Все новости ИИ в России
Госрегулирование

Минцифры обяжет разработчиков AI фильтровать контент: запрет генерации противоправных материалов

Минцифры обяжет разработчиков AI фильтровать контент: запрет генерации противоправных материалов
Госрегулирование
Обязательная фильтрация
требование Минцифры к российским AI-разработчикам: технически исключить генерацию противоправного контента — аналог китайского регулирования LLM

В апреле 2026 года Минцифры включило в законопроект об ИИ требование об обязательной фильтрации генерируемого контента. Все российские AI-системы должны технически исключать возможность генерации противоправных материалов. Аналитики сравнивают подход с китайским регулированием LLM с 2023 года.

Минцифры оформило в законопроект об ИИ требование об обязательной контентной фильтрации для всех AI-систем в России.

Суть требования: Все российские AI-системы обязаны:

  1. 1.Технически исключить генерацию контента, нарушающего российское законодательство
  2. 2.Внедрить механизмы фильтрации на уровне модели или постпроцессинга
  3. 3.Документировать принятые меры
  4. 4.Реагировать на предписания Роскомнадзора

Категории запрещённого контента:

КатегорияПравовое основание
Экстремистские материалыФЗ-114, ФЗ-149
Детский контент (CSAM)УК РФ ст. 242.1
Фейки о госорганахФЗ-149
Дискредитация армииФЗ (2022)

Технические подходы:

  • Guardrails на уровне модели: дообучение с исключением запрещённых ответов
  • Постпроцессинг: классификатор выходного текста
  • Blocklist: списки запрещённых тем и контекстов
  • Мониторинг и логирование для аудита РКН

Международные аналоги:

СтранаПодход
КитайОбязательная регистрация + «социалистические ценности» (с 2023)
ЕСЗапрет манипулятивного AI (EU AI Act)
СШАДобровольные стандарты
РоссияОбязательная фильтрация (проект, с 2027)

Для бизнеса:

  • Для CTO, разрабатывающих AI: техническая реализация фильтрации — R&D затраты, учтите в дорожной карте
  • Для компаний с AI-чатботами: проверьте, что ваш AI отвечает на провокационные запросы корректно
  • Для DPO: логирование AI-взаимодействий для аудита РКН = дополнительная обработка ПДн. Нужно правовое основание
  • Для стартапов: compliance с фильтрацией = вход в реестр доверенных моделей → доступ к госданным

Это краткое изложение. Полный текст — на сайте источника:

Читать оригинал: Anti-Malware.ru / Минцифры

Как это касается вашего бизнеса

Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».