Обратно към речника Сигурност

Диференциална поверителност

Диференциалната поверителност е математическа рамка, позволяваща публикуване на анализи на данни, гарантирайки, че никой не може уверено да каже дали конкретно лице е в базата данни.

Основни принципи

Диференциалната поверителност осигурява количествена гаранция: за всеки алгоритъм с параметъра epsilon, въздействието на включването или изключването на конкретна извадка е ограничено от фактора exp(epsilon). По-ниските стойности на epsilon осигуряват по-силна поверителност, но на цената на точността.

AI приложение

Диференциалната поверителност се прилага в машинното обучение за защита на модели, обучени на чувствителни данни. Обучаващите DP техники включват клипиране на градиента и добавяне на стандартен шум.

Компромиси

Диференциалната поверителност изисква внимателно използване въз основа на обучаващите резултати на цената на измерима точност. Използвайте я, когато са необходими формални гаранции за поверителност.