¿O que é a Privacidade Diferencial?
A privacidade diferencial (PD) é un marco matematicamente rigoroso para cuantificar e limitar o risco de privacidade no procesamento de datos. Un algoritmo é diferencialmente privado se a súa saída non cambia significativamente dependendo de se un individuo particular está incluído no conxunto de datos ou non. Isto significa que un atacante que observe a saída do algoritmo non pode obter coñecemento significativo sobre a presenza dun individuo.
Aplicacións no Entrenamento de IA
A PD aplícase aos procesos de entrenamento de IA engadindo ruído cuidadosamente calibrado aos gradientes durante o entrenamento. Isto evita que o modelo memorice con precisión puntos de datos de entrenamento individuais, facendo posible a súa reconstrución mediante ataques. A compensación é a utilidade do modelo: máis privacidade requere máis ruído, o que reduce o rendemento do modelo.
Aplicacións Empresariais
A privacidade diferencial permite ás empresas publicar resultados analíticos e entrenar modelos en datos sensibles sen arriscar o incumprimento das regulacións de privacidade. Os casos de uso inclúen: análise salariais con privacidade, investigación sanitaria con garantías de privacidade dos pacientes e análise do comportamento dos usuarios para melloras de produtos.