
360
살아 움직이는 머신러닝 파이프라인 설계
14.2
차등 개인 정보 보호
머신러닝 파이프라인에서 개인 정보 보호를 강화해야 할 필요성을 확인했을 때, 가능한 한 많
은 데이터 유틸리티를 유지하면서 개인 정보 보호를 강화하는 데 도움이 되는 다양한 방법이
있습니다. 첫 번째로 논의할 방법은
차등 개인 정보 보호
differential
privacy
(
DP
)
40
입니다.
DP
는 데
이터셋의 쿼리나 변환이 해당 데이터셋에 사람이 있는지를 밝혀서는 안 된다는 아이디어를 공
식화한 방법입니다. 데이터셋에 포함됨으로써 개인이 경험하는 개인 정보 보호 손실에 관한 수
학적 측정값을 제공하고 노이즈 추가에 따른 개인 정보 손실을 최소화합니다.
차등 개인 정보 보호에서는 데이터 소유자나 큐레이터가 데이터 주제에 대해 한 약속을 설명합니다.
“다른 연구, 데이터셋, 정보 출처가 무엇이든 간에 데이터를 어떤 연구 또는 분석에도 사용할 수 있도
록 허용함으로써 부정적인 영향을 받지 않습니다.”
신시아 드워크
Cynthia
Dwork
41
달리 말하면, 한 사람이 해당 데이터셋에서 제거되더라도 개인 정보를 존중하는 데이터셋의 변
환은 변경되지 않아야 합니다. 머신러닝 모델에서 모델이 개인 정보 보호를 염두에 두고 학습
을 받았다면, 한 사람을 학습 세트에서 제거하더라도 모델이 만드는 예측이 ...