Google Research представила доклад о проблемах приватности и безопасности агентных ИИ
Google Research опубликовала доклад, в котором рассматриваются ключевые вызовы приватности и безопасности автономных ИИ-агентов через призму теории контекстной целостности.
Доклад подготовлен на основе материалов конференции Google Contextual Agent Privacy and Security (CAPS) Workshop, прошедшей в конце 2025 года в Нью-Йорке.
Автономные агенты, основанные на больших языковых моделях, способны динамически генерировать планы и использовать внешние инструменты для выполнения сложных задач.
Ключевая проблема — необходимость баланса между полезностью агентов и рисками, связанными с их способностью совершать действия, влекущие за собой последствия, в различных контекстах.
Отличия агентов от традиционного программного обеспечения заключаются в неструктурированных интерфейсах, вероятностных потоках управления и автономии с делегированием подзадач.
Для оценки допустимости действий предлагается использовать теорию контекстной целостности, определяющую приватность как «корректный поток информации» в соответствии с социальными нормами.
Разрабатывается многоуровневый подход, включающий системную изоляцию, моделирование рассуждений, пользовательские интерфейсы, взаимодействие между агентами и управление экосистемой.
Это краткое изложение. Полный текст статьи доступен на сайте источника:
Читать полностью на Google ResearchЕщё по теме регулирование и 152-фз
EU AI Act: 15 сентября 2026 — дедлайн для GPAI-провайдеров по оценке системных рисков
США — Китай, чипы и ИИ: санкции замедляют, но Kimi K3 и DeepSeek V4 приближаются к топу
Anthropic, OpenAI и Google тайно обсуждают создание отраслевого AI-стандартизационного органа
Как это касается вашего бизнеса
Типичный B2B-сайт обрабатывает персональные данные посетителей через формы заявок и cookie-трекеры, поэтому на него распространяются требования 152-ФЗ. Бесплатный экспресс-скан покажет основные нарушения и оценку штрафа, а разбивка штрафов по частям ст. 13.11 КоАП — в тарифе «Стандарт».