MLOps 도입 가이드

150

2부MLOps적용방법

할 수 있게 검토를 시작해야 하지만, 이미 언급한 바와 같이 보편적이거나 확정적인 의견은 아

직 없다. 공정성의 조건에 대한 논의를 발전시켜야 한다는 공감대는 분명히 형성되어 있지만

논의를 진전시키기가 쉽지 않기 때문이다. 앞서 사례로 든, 여학교에 대해 편향성을 지닌 채용

시스템의 개발자들이 ‘여성의’ 같은 단어를 무시하도록 모델을 변경했지만, 이력서에 적힌 언어

의 어투로도 글쓴이의 성별을 반영하고 이로 인해 여성에 대해 의도치 않은 편향을 만들어낸다

는 사실을 발견했다(

https://oreil.ly/JEIL7

). 이러한 편향을 해소하는 과정은 향후 구축될

머신러닝 모델에 깊은 영향을 끼치게 될 것이다. 이와 관련한 자세한 내용은

4

.

5

.

3

절에서 참

조한다.

한 걸음 뒤로 물러서 보면, 이런 편향에 대한 문제는 새롭지 않다. 예를 들어, 고용 차별은 언제

나 있었던 이슈였다. 지금이 예전과 다른 점은

IT

혁명으로 인해 편향성을 평가할 수 있는 데이

터가 더 많아졌다는 점이다. 그 기반 위에서 머신러닝으로 의사결정을 자동화한 덕분에 개인의

주관적 의사결정 필터를 거치지 않고도 행태에 변화를 줄 수 있게 되었다.

핵심은 편향성이 통계적인 것만은 아니라는 점이다. 편향성 점검을 거버넌스 프레임워크에 통

합하여, 데이터 사이언스 및 머신러닝 프로젝트를 무산시킬 가능성이 있는 문제들을 가능한 한

빨리 식별해야 한다.

나쁜 소식만 있는 건 아니다. 데이터 과학자가 해결할 수 있는 통계적 편향의 잠재적 원천(