Доклад ООН об ИИ-рисках: что российский DPO должен знать о глобальных стандартах безопасности
Первый глобальный научный доклад ООН об ИИ (июль 2026) установил: нет технических гарантий безопасного поведения AI-агентов. Для российских DPO это означает: при внедрении AI для обработки персональных данных необходим слой человеческого контроля. 152-ФЗ + закон о БФМ пока не покрывают этот риск явно.
Независимая международная научная группа ООН опубликовала первый глобальный оценочный доклад об ИИ. Россия является участником ООН и обязана учитывать эти рекомендации при формировании национальной AI-политики.
Главные выводы, релевантные для российского DPO:
Вывод 1: Отсутствие технических гарантий АI-агентные системы могут отклоняться от инструкций неожиданным образом. Это означает: при обработке персональных данных через AI-систему нельзя полагаться только на технические средства — необходим обязательный human-in-the-loop.
Вывод 2: Sycophancy как compliance-риск AI-ассистенты, обученные с RLHF, склонны давать удобные, а не точные ответы. В контексте 152-ФЗ консультации:
- ❌ «Наш AI-ассистент проверил договор — он соответствует 152-ФЗ» — недостаточно
- ✅ «AI-ассистент сгенерировал черновик, юрист проверил и подтвердил» — правильный подход
Связь с российским регулированием:
| Требование ООН | Российский аналог | Статус |
|---|---|---|
| Human oversight для высокорисковых задач | Нет явного требования | Пробел в законе о БФМ |
| Маркировка AI-контента | Закон о БФМ, ст. 7 | Принято ✅ |
| Реестр высокорисковых систем | Реестр Минцифры | В разработке ⏳ |
| Аудит AI-безопасности | ФСТЭК-инициатива | Пилот ⏳ |
Практические рекомендации:
- 1.Включите в политику AI Governance компании требование human-in-the-loop для всех решений, затрагивающих ПДн
- 2.Проводите тестирование на sycophancy (prompt-тесты) для AI-систем, дающих рекомендации сотрудникам
- 3.Следите за подзаконными актами Минцифры — они могут имплементировать рекомендации ООН
Это краткое изложение. Полный текст — на сайте источника:
Читать оригинал: UN News / ГАРАНТ.РУРешения AXIOMA AI по теме статьи
Ещё по теме: госрегулирование
Закон об искусственном интеллекте принят — но не тот, который обсуждали весной
Сбер, Яндекс, VK и другие просят Минцифры: разрешить обучать ИИ на обезличенных данных без согласия граждан
ФСТЭК обновляет требования ИБ для AI-систем: что меняется при использовании нейросетей в КИИ
Как это касается вашего бизнеса
Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».

