Google представила систему федеративного обучения с проверяемыми гарантиями приватности

Система федеративного обучения (FL), представленная Google, основана на четырёх принципах приватности: минимизация данных, анонимизация, прозрачность и контроль, а также проверяемость и аудитируемость.

В 2017 году Google впервые представила федеративное обучение — метод машинного обучения, при котором модели обучаются на децентрализованных, приватных данных.

Система координирует четыре ключевых операционных понятия: загрузку данных, проверку политик через систему управления ключами, выполнение рабочих нагрузок и отказоустойчивое восстановление.

Только метрики и веса моделей, вычисленные с использованием дифференциальной приватности, доступны операторам рабочих нагрузок. Зашифрованные данные могут быть расшифрованы и обработаны только внутри доверенных сред выполнения, где запущены Python-программы, описанные в политиках доступа, и только на ограниченное время после загрузки.

Политики доступа публикуются в публичном журнале Rekor, что позволяет внешним аудиторам отслеживать все серверные рабочие нагрузки, в которых могут участвовать устройства.

Gboard уже внедрил новую систему для обучения моделей предсказания следующего слова на английском и японском языках, добившись более сильных гарантий приватности и улучшенной точности.