Kas yra diferencinis privatumas?
Diferencinis privatumas (Differential Privacy) yra griežta matematinė sistema, teikianti įrodomos garantijas dėl asmenų, kurių duomenys naudojami dirbtinio intelekto mokymui, privatumo. Pagrindinis principas užtikrina, kad bet kurios analizės ar apmokinto modelio rezultatas iš esmės išlieka toks pat, neatsižvelgiant į tai, ar bet kurio atskiro asmens duomenys yra įtraukti į duomenų rinkinį. Tai pasiekiama pridedant kruopščiai sukalibruotą statistinį triukšmą prie skaičiavimų, todėl matematiškai neįmanoma atstatyti individualių įrašų iš modelio išvesties ar agreguotų rezultatų.
Kaip tai veikia
Privatumo garantija valdoma parametru, vadinamu epsilon. Mažesnis epsilon suteikia stipresnį privatumą, bet gali sumažinti modelio tikslumą, sukurdamas fundamentalų privatumo ir naudingumo kompromisą. Vietinis diferencinis privatumas prideda triukšmą duomenų rinkimo taške, saugodamas individualius įrašus prieš jiems paliekant naudotojo įrenginį. Globalus diferencinis privatumas prideda triukšmą agregavimo ar mokymo proceso metu, paprastai siūlydamas geresnį naudingumą tam pačiam privatumo lygiui. Technikos, tokios kaip Gauso mechanizmas, Laplaso mechanizmas ir diferenciškai privatus stochastinis gradientinis nuolydis (DP-SGD), praktiškai įgyvendina šias garantijas.
Įmonių taikymai
Įmonės, tvarkančios jautrius duomenis — sveikatos priežiūros įrašus, finansines operacijas, darbuotojų informaciją — gali naudoti diferencinį privatumą dirbtinio intelekto modeliams mokyti, kartu demonstruodamos atitiktį reglamentams, tokiems kaip GDPR. Jis leidžia atlikti bendradarbiavimo analitiką per organizacines ribas neatskleidžiant neapdorotų duomenų. Didžiosios technologijų platformos priėmė diferencinį privatumą naudojimo analitikai ir rekomendacijų sistemoms. Diegdamos diferencinį privatumą, organizacijos turi kruopščiai subalansuoti privatumo biudžetą per visas užklausas ir modelio atnaujinimus, kad palaikytų prasmingas garantijas laikui bėgant.