머신러닝 파워드 애플리케이션: 아이디어에서부터 완성된 제품까지, 강력한 머신러닝 애플리케이션 구축 과정 배우기

239

8

장

모델 배포 시 고려 사항

이번 절에서 언급한 적대 공격을 위해 관심을 기울여야 할 대상이 비도덕적인 사용자만이 아닙

니다. 사용자 커뮤니티에 작업 결과를 공유할 때는 위험한 애플리케이션에 사용될 수 있는지

자문해봐야 합니다.

8.2.5

이중 사용

이중 사용

dual

-

use

은 하나의 목적으로 개발된 기술이 다른 목적으로 사용되는 것을 말합니다. 비

슷한 종류의 데이터셋에서 잘 동작하는 머신러닝의 능력 (그림

2

-

3

) 때문에 머신러닝 모델은

종종 이중 사용 문제에 직면합니다.

자신의 목소리를 친구 목소리로 바꾸는 모델을 만든다면 동의를 구하지 않고 다른 사람을 사칭

하는 데 사용될 수 있지 않을까요? 이런 모델을 만든다면 사용자가 모델의 올바른 사용법을 이

해할 수 있도록 적절한 지침과 자료를 어떻게 제공할 수 있을까요?

마찬가지로 얼굴을 정확하게 분류하는 모든 모델은 감시를 위해 이중 사용될 수 있습니다. 이

런 모델은 원래 스마트 초인종을 위해 개발되었지만 도시 전체에 퍼져 있는 감시용 카메라를

통해 개인을 추적하는 데 사용될 수 있습니다. 어떤 데이터셋을 사용해 만든 모델이 비슷한 다

른 데이터셋에서 다시 훈련된다면 위험을 초래할 수 있습니다.

현재 이중 사용 문제에 대한 명확한 모범 사례는 없습니다. 자신의 모델이 비윤리적으로 사

용될 수 있다면 그