Что такое differential privacy?
Дифференциальная приватность (differential privacy) — это математически доказанная техника защиты конфиденциальности, гарантирующая, что результаты анализа данных не раскроют информацию о какой-либо конкретной отдельной записи. Достигается это путём добавления контролируемого статистического шума к данным или результатам запросов. Формальное определение обеспечивает, что наличие или отсутствие любой отдельной записи в наборе данных оказывает минимальное влияние на результат — параметр эпсилон (ε) определяет уровень защиты.
Применения в AI
В контексте машинного обучения differential privacy применяется при обучении моделей (DP-SGD), агрегации данных из многих источников, федеративном обучении и генерации синтетических датасетов. Эта техника позволяет организациям обучать модели на чувствительных данных — медицинских, финансовых, персональных — без риска утечки информации о конкретных людях, даже перед лицом продвинутых атак реконструкции.
Внедрение на предприятии
Реализация требует компромисса между приватностью и точностью модели (privacy-utility tradeoff). Более низкий эпсилон означает лучшую защиту, но потенциально более низкое качество предсказаний. Организациям следует подбирать параметры в зависимости от чувствительности данных и регуляторных требований. Differential privacy признана GDPR и AI Act одной из рекомендуемых техник защиты конфиденциальности в системах AI.