밑바닥부터 시작하는 데이터 과학 데이터 분석을 위한 파이썬 프로그래밍과 수학·통계 기초

Data Science

402

󻱴󽴔󽴔󺠿󻱃󼗿󽴔󻯳󺹻

인식 알고리즘을 사용했던 적이 있다.

7

이전 경우와 비슷하게, 구글의 누군가가

해당 기능을 일부러 배포하기로 결정했을 가능성은 매우 낮을 것이다(해당 기능

의 ‘윤리’적인 측면조차 고심하지 않았을 것이다). 이번 경우에는 나쁜 학습 데이

터, 모델 부정확도 그리고 해당 실수가 준 대단히 큰 모욕감 등의 이유로 문제가

되었다(만약 모델이 때때로 우편함을 소방차로 분류했더라면 아무도 신경 쓰지

않았을 것이다).

이 경우에는 해결책이 명백하지 않다. 학습된 모델을 어떻게 하면 모욕적인

예측을 하지 않도록 보장할 수 있을까? 물론 다양한 입력을 활용하여 모델을 학

습(또한 테스트)해야겠지만, 해당 모델이 모든 입력에 대해 여러분이 곤혹스러

워질 방식으로 행동하지 않으리라 보장할 수 있을까? 이는 어려운 문제이다. (구

글은 ‘고릴라’라고 절대 예측하지 않도록 하여 이 문제를 ‘고친’ 것으로 보인다.)

26.5

정확도와 공정함의 균형을 유지하기

사람들이 특정 행동을 할 것인지 예측하는 모델을 만들었다고 해보자.

여러분은 꽤 괜찮은 모델을 만들었다(표

26

-

1

).

예측 사람 행동 %

행동 안 함 125 25 20

행동 함

125 75 60

표 26-1

󽴔󺐳󽴔󺇫󼃽󻰏󽴔󺽷󺡇

행동하지 않을 것이라고 예측된 사람 중,

20

%의 사람만 특정 행동을 ...