Què és la Privacitat Diferencial?
La privacitat diferencial (PD) és un marc matemàticament rigorós per quantificar i limitar el risc de privacitat en el processament de dades. Un algorisme és diferencialment privat si la seva sortida no canvia significativament depenent de si un individu particular està inclòs en el conjunt de dades o no. Això significa que un atacant que observi la sortida de l'algorisme no pot obtenir coneixement significatiu sobre la presència d'un individu.
Aplicacions en l'Entrenament d'IA
La PD s'aplica als processos d'entrenament d'IA afegint soroll cuidadosament calibrat als gradients durant l'entrenament. Això evita que el model memoritzi amb precisió punts de dades d'entrenament individuals, fent possible la seva reconstrucció mitjançant atacs. La compensació és la utilitat del model: més privacitat requereix més soroll, el que redueix el rendiment del model.
Aplicacions Empresarials
La privacitat diferencial permet a les empreses publicar resultats analítics i entrenar models en dades sensibles sense arriscar l'incompliment de les regulacions de privacitat. Els casos d'ús inclouen: anàlisi salarials amb privacitat, investigació sanitària amb garanties de privacitat dels pacients i anàlisi del comportament dels usuaris per a millores de productes.