КИБЕРВИКИПЕДИЯ
SECURITY VISION

Федеративное обучение (Federated Learning, FL) — это метод машинного обучения, при котором модель обучается на данных, распределенных между множеством устройств (например, смартфонах), без их централизованного сбора. Это повышает приватность, но создает новые угрозы безопасности.

Основные принципы:

• Локальное обучение— данные остаются на устройстве пользователя.
• Обмен параметрами— только обновления модели (градиенты) отправляются на сервер.
• Агрегация— сервер объединяет обновления для улучшения общей модели.

Угрозы безопасности в FL:

1. Атаки на конфиденциальность
   • Злоумышленник может восстановить исходные данные из градиентов (например, с помощью атак типа Model Inversion).
   • Пример: восстановление лиц из обновлений модели распознавания изображений.
2. Отравление данных (Poisoning Attacks)
   • Вредоносные участники отправляют ложные градиенты, чтобы исказить модель.
   • Пример: добавление предвзятости в кредитную скоринговую систему.
3. Атаки на целостность модели
   • Внедрение backdoor-функций (например, модель начинает ошибочно классифицировать определенные объекты).

Методы защиты:

• Дифференциальная приватность— добавление шума к градиентам.
• Криптографические методы— безопасная агрегация (Secure Aggregation).
• Фильтрация аномальных обновлений— отклонение подозрительных градиентов.

Бытовые аналогии

1. Совместное приготовление блюда— каждый добавляет свой ингредиент, но никто не знает полного рецепта.
2. Голосование без раскрытия мнений— подсчет результатов без разглашения, кто как голосовал.
3. Сбор пазла в темноте— участники соединяют кусочки, не видя всей картины.
4. Анонимный опрос— статистика есть, но ответы отдельных людей неизвестны.
5. Совместная бухгалтерия— компании обмениваются финансовыми выводами, но не транзакциями.