Google представила меры безопасности для модели Gemini 4 Argon

Модель Gemini 4 Argon представляет шаг вперед в возможностях моделей, особенно при глубокой работе в сложных реальных задачах в таких областях, как программирование, финансы, юриспруденция, кибербезопасность и наука. Чтобы максимизировать потенциал, киберзащитники использовали модель через программу Fairwind, а команды безопасности Google применяли её для сканирования критических систем внутри и вне Google.

Для предотвращения злоупотреблений в высокорисковых доменах внедрены три слоя защиты в реальном времени. Эти слои включают скрининг входных данных, внутреннюю интроспекцию для выявления активации знаний об атаках и непрерывный мониторинг.

Модель обучена уважать системные границы, честно сообщать о негативных результатах и приостанавливаться для запроса подтверждения у человека. В качестве второй линии обороны создан автоматический монитор несоответствия целей, который в реальном времени читает действия агента и его внутреннюю «записную книжку» (цепочку рассуждений шаг за шагом).

Благодаря встроенному состязательному обучению и проверкам безопасности в реальном времени Argon лидирует по показателям устойчивости к инъекциям промптов на бенчмарке Gray Swan’s Indirect Prompt Injection. Это привело к снижению вероятности успеха атак при 15 адаптивных попытках до 0,7%.