MLOps 도입 가이드

81

4장 모델개발

공정성

fairness

에 대한 요구사항으로 인해 모델을 개발할 때 수치적 제약이 있을 수 있다. 편향과

관련하여 무엇이 중요한지 이해하기 위해 다음 예시를 살펴보자. 미국에 기반을 둔 어떤 조직

이 정기적으로 동일한 유형의 업무를 하는 사람들을 고용한다. 데이터 과학자는 다양한 특성에

따라 노동자의 성과를 예측하는 모델을 학습시켰고, 조직에서는 그 모델을 통해 높은 생산성을

보일 것으로 예측되는 사람들을 뽑았다.

이 문제는 얼핏 단순해 보이지만, 안타깝게도 함정이 들어 있다. 이 문제를 현실 세계의 복잡성

과 여러 문제에서 분리하기 위해 가설을 세워보자. 모든 직원은

2

개의 집단, 즉 위퀘이 족과 토

그루타 족 중 하나에 속한다고 하자.

이 가상의 예시에서 훨씬 많은 수의 위퀘이 족이 대학에 다닌다고 하자. 그러면 처음부터 위퀘

이 족을 선호하는 편향성이 생길 것이다(다년 간의 경험으로 인해, 위퀘이 족의 능력이 더 높을

수 있다는 사실로 인한 편향성이다).

결국, 지원자 모수에 토그루타 족보다 위퀘이 족이 더 많을 뿐만 아니라 위퀘이 족이 더 잘 준

비되어 있을 수 있다. 고용주가 다음 달에

10

명을 뽑아야 한다면, 무엇을 해야 할까?

●

공정한기회를부여해야할고용주로서,채용과정의공정성을보장해야한다.수학적으로얘기하자면,각지원

자에게공정하고모든것을공정하게처리하기위해서는고용여부가소속집단(여기서는위퀘이족과토그루

타족)에영향을받아서는안된다.하지만위퀘이족이더잘준비되어 ...