Što je diferencijalna privatnost?
Diferencijalna privatnost (DP) je matematički okvir koji pruža formalna, kvantificirana jamstva privatnosti. Algoritam je ε-diferencijalno privatan ako njegovo ponašanje gotovo ne ovisi o tome je li bilo koji specifični individualni podatak uključen u skup. ε (epsilon) kvantificira razinu privatnosti — niže ε znači jača privatnost.
Primjena u AI-ju
DP-SGD (Diferencijalno privatni Stochastic Gradient Descent) dodaje kalibriran šum gradijentima tijekom treniranja, sprječavajući model da 'zapamti' individualne primjere. Cijena je određena degradacija točnosti modela, ali za mnoge primjene je kompromis prihvatljiv.
Poslovne primjene
Diferencijalna privatnost je kritična za: analitiku na medicinskim podacima (bez pojedinačnog otkrivanja), AI modele koji se treniraju na osobnim podacima (GDPR usklađenost), objavu statističkih agregata (zaposlenici, korisnici) i dokazivanje usklađenosti s privatnošću regulatorima i klijentima.