Was ist differenzielle Privatsphäre?
Differenzielle Privatsphäre (DP) ist ein mathematisch rigoroses Framework zur Quantifizierung und Begrenzung des Datenschutzrisikos bei der Verarbeitung von Daten. Ein Algorithmus ist differenziell privat, wenn seine Ausgabe sich nicht wesentlich ändert, ob ein bestimmtes Individuum in den Datensatz einbezogen ist oder nicht. Das bedeutet, ein Angreifer, der die Ausgabe des Algorithmus beobachtet, kann keine wesentlichen Erkenntnisse über das Vorhandensein eines Individuums erlangen.
Anwendungen im KI-Training
DP wird auf KI-Trainingsprozesse durch Hinzufügen von sorgfältig kalibriertem Rauschen zu Gradienten während des Trainings angewendet. Dies verhindert, dass das Modell genaue Erinnerungen an einzelne Trainingsdatenpunkte speichert und damit deren Rekonstruktion durch Angriffe ermöglicht. Der Kompromiss ist Modell-Utility: mehr Datenschutz erfordert mehr Rauschen, was die Modellleistung reduziert. Die Balance zu finden ist kontextspezifisch.
Unternehmensanwendungen
Differenzielle Privatsphäre ermöglicht Unternehmen die Veröffentlichung von Analyseergebnissen und das Training von Modellen auf sensiblen Daten, ohne Datenschutzvorschriften zu riskieren. Anwendungsfälle umfassen: Gehaltsanalysen mit Datenschutz, Gesundheitsforschung mit Patienten-Datenschutzgarantien, Benutzerverhalten-Analyse für Produktverbesserungen und Cloud-ML-Services, die Datenschutzgarantien gegenüber dem Cloud-Anbieter bieten.