Kas ir diferenciālais privātums?
Diferenciālais privātums ir matemātiski stingrs privātuma ietvars, kas garantē, ka jebkuras analīzes vai AI modeļa rezultāts būtu praktiski vienāds neatkarīgi no tā, vai konkrētas personas dati ir iekļauti datu kopā vai nav. Tas tiek panākts, pievienojot kontrolētu troksni datiem vai vaicājumu rezultātiem, nodrošinot, ka individuālie ieraksti nav atjaunojami no izvades.
Tehniskie pamati
Privātuma parametrs epsilon (ε) kontrolē privātuma un lietderības līdzsvaru — mazāks epsilon nozīmē spēcīgāku privātuma aizsardzību, bet vairāk trokšņa. Lokālais diferenciālais privātums pievieno troksni pirms datu nosūtīšanas, globālais — centralizēti pēc datu apkopošanas. Komponējamības teorēma ļauj izsekot kopējo privātuma budžetu vairākos vaicājumos. Rényi diferenciālais privātums un neskaidro apstrādi (subsampled mechanisms) nodrošina stingrāku privātuma uzskaiti.
AI pielietojumi
AI modeļu apmācībā diferenciāli privātas SGD (DP-SGD) pārveido standarta gradientu nolaišanos, pievienojot troksni gradientiem un ierobežojot to normu. Tas nodrošina, ka apmācītais modelis neatklāj informāciju par individuāliem apmācības piemēriem. Praktiski lietojumi ietver: privātu analītiku veselības datos, droša datu kopīgošana starp organizācijām, GDPR atbilstība un privātuma saglabāšana federatīvajā mācīšanā.