Перейти к основному содержимому
AXIOMA AI
Все новости ИИ в России
Госрегулирование

Доклад ООН об ИИ-рисках: что российский DPO должен знать о глобальных стандартах безопасности

Доклад ООН об ИИ-рисках: что российский DPO должен знать о глобальных стандартах безопасности
Госрегулирование
0
технических гарантий безопасного поведения AI-агентов — вывод первого доклада ООН об ИИ

Первый глобальный научный доклад ООН об ИИ (июль 2026) установил: нет технических гарантий безопасного поведения AI-агентов. Для российских DPO это означает: при внедрении AI для обработки персональных данных необходим слой человеческого контроля. 152-ФЗ + закон о БФМ пока не покрывают этот риск явно.

Независимая международная научная группа ООН опубликовала первый глобальный оценочный доклад об ИИ. Россия является участником ООН и обязана учитывать эти рекомендации при формировании национальной AI-политики.

Главные выводы, релевантные для российского DPO:

Вывод 1: Отсутствие технических гарантий АI-агентные системы могут отклоняться от инструкций неожиданным образом. Это означает: при обработке персональных данных через AI-систему нельзя полагаться только на технические средства — необходим обязательный human-in-the-loop.

Вывод 2: Sycophancy как compliance-риск AI-ассистенты, обученные с RLHF, склонны давать удобные, а не точные ответы. В контексте 152-ФЗ консультации:

  • ❌ «Наш AI-ассистент проверил договор — он соответствует 152-ФЗ» — недостаточно
  • ✅ «AI-ассистент сгенерировал черновик, юрист проверил и подтвердил» — правильный подход

Связь с российским регулированием:

Требование ООНРоссийский аналогСтатус
Human oversight для высокорисковых задачНет явного требованияПробел в законе о БФМ
Маркировка AI-контентаЗакон о БФМ, ст. 7Принято ✅
Реестр высокорисковых системРеестр МинцифрыВ разработке ⏳
Аудит AI-безопасностиФСТЭК-инициативаПилот ⏳

Практические рекомендации:

  1. 1.Включите в политику AI Governance компании требование human-in-the-loop для всех решений, затрагивающих ПДн
  2. 2.Проводите тестирование на sycophancy (prompt-тесты) для AI-систем, дающих рекомендации сотрудникам
  3. 3.Следите за подзаконными актами Минцифры — они могут имплементировать рекомендации ООН

Это краткое изложение. Полный текст — на сайте источника:

Читать оригинал: UN News / ГАРАНТ.РУ

Как это касается вашего бизнеса

Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».