Čo je diferenciálne súkromie?
Diferenciálne súkromie je prísny matematický rámec poskytujúci preukázateľné záruky o súkromí jednotlivcov, ktorých dáta sú používané v trénovaní AI. Kľúčový princíp zabezpečuje, že výstup akejkoľvek analýzy alebo trénovaného modelu zostáva v podstate rovnaký, či už sú alebo nie sú zahrnuté dáta konkrétneho jednotlivca. To je dosiahnuté pridávaním starostlivo kalibrovaného štatistického šumu k výpočtom.
Ako to funguje
Záruka súkromia je riadená parametrom nazvaným epsilon. Menší epsilon poskytuje silnejšie súkromie, ale môže znížiť presnosť modelu, čím vytvára základný kompromis súkromie-utilita. Lokálne diferenciálne súkromie pridáva šum na mieste zberu dát. Globálne diferenciálne súkromie pridáva šum počas agregácie alebo trénovacieho procesu.
Podnikové aplikácie
Podniky nakladajúce s citlivými dátami — zdravotné záznamy, finančné transakcie, informácie o zamestnancoch — môžu použiť diferenciálne súkromie na trénovanie AI modelov pri preukazovaní súladu s predpismi ako GDPR. Umožňuje kolaboratívnu analytiku naprieč organizačnými hranicami bez odhalenia surových dát.