Що таке диференційна приватність?
Диференційна приватність (диференційна приватність) - це математично доведена техніка захисту приватності, яка гарантує, що результати аналізу даних не розкриють інформацію про будь-який окремий запис. Це досягається шляхом додавання контрольованого статистичного шуму до даних або результатів запитів. Формальна визначення забезпечує, що присутність або відсутність будь-якого окремого запису в наборі даних має мінімальний вплив на результат - параметр епсилон (ε) визначає рівень захисту.
Застосування в AI
У контексті машинного навчання диференційна приватність застосовується під час навчання моделей (DP-SGD), агрегації даних з багатьох джерел, федеративного навчання та генерації синтетичних наборів даних. Ця техніка дозволяє організаціям навчати моделі на чутливих даних - медичних, фінансових, особистих - без ризику витоку інформації про окремих осіб, навіть перед лицем вдосконалених атак реконструкції.
Реалізація в підприємстві
Реалізація вимагає компромісу між приватністю та точністю моделі (privacy-utility tradeoff). Нижче епсилон означає кращий захист, але потенційно нижчу якість передбачень. Організації повинні вибрати параметри залежно від чутливості даних та регуляторних вимог. Диференційна приватність визнана GDPR та AI Act однією з рекомендованих технік захисту приватності в системах AI.