살아 움직이는 머신러닝 파이프라인 설계: 텐서플로와 함께하는 머신러닝 프로젝트 자동화

362

살아 움직이는 머신러닝 파이프라인 설계

14.2.2

엡실론, 델타와 개인 정보 보호 예산

DP

를 구현하는 가장 일반적인 방법은

ϵ

-

δ

(엡실론-델타)를 사용하여

DP

ϵ

을 만드는 것입니

다. 한 특정 사용자를 포함하는 데이터셋의 임의 변환 결과를 해당 사용자를 포함하지 않는 다

른 결과와 비교할 때

e

ϵ

는 이런 변환의 결과 간의 최대 차이를 설명합니다. 따라서

ϵ

가

0

일 때

두 변환 모두 정확히 동일한 결과를 반환합니다.

ϵ

의 값이 더 작을 때는 변환이 동일한 결과를

반환할 확률이 더 커집니다. 즉,

ϵ

가 개인 정보 보호의 강도를 측정하므로

ϵ

가 낮을수록 더 비

공개적입니다. 데이터셋을 두 번 이상 쿼리할 때 전체 개인 정보 보호 예산을 얻으려면 각 쿼리

의

ϵ

을 합해야 합니다.

δ

는

ϵ

가 성립하지 않을 확률 또는 랜덤 변환의 결과에서 개인의 데이터가 노출될 확률입니다.

일반적으로 모집단 크기의 반비례로 설정합니다. 예를 들어

2

,

000

명이 포함된 데이터셋이라

면,

δ

를

1

/

1

,

000

42

로 설정합니다.

ϵ

의 값은 얼마로 정해야 하나요? 다양한 알고리즘과 접근 방식의 프라이버시를 비교할 수 있

지만 ‘충분한’ 프라이버시를 제공하는 절대적 가치는 사용 사례

43

에 따라 달라집니다.

ϵ

에 사용할 값을 결정할 때 감소된 시스템 정확도를 확인하면 도움이 됩니다. 비즈니스 ...