'Differentially Private Stochastic Gradient Descent' (DP-SGD) is een veelgebruikte methode om privacy te beschermen bij het trainen van AI-modellen. Tijdens het trainen voegt deze methode zorgvuldig gekalibreerde willekeurige ruis toe, waardoor het moeilijker wordt om vast te stellen of de gegevens van een bepaald persoon in de trainingsdataset waren opgenomen. Er is sprake van een afweging: meer ruis versterkt de privacybescherming, maar het kan ook de nauwkeurigheid van het resulterende model verminderen.
Ondergrens aan ruis voor privacy
De onderzoekers tonen wiskundig aan dat DP-SGD een fundamentele beperking heeft onder standaard worstcasescenario's voor mogelijke aanvallers. Ze leiden een ondergrens af voor de hoeveelheid ruis die nodig is om sterke privacygaranties te bieden. Hoewel deze ondergrens daalt naarmate het aantal trainingsstappen toeneemt, gebeurt dat uiterst langzaam: zelfs bij zeer grote aantallen trainingsstappen blijft de benodigde hoeveelheid ruis aanzienlijk. Hun experimenten bevestigen dat deze hoeveelheden ruis de nauwkeurigheid van modellen onder realistische trainingsomstandigheden aanzienlijk kunnen verminderen.

