MLOps 도입 가이드

141

8장 모델거버넌스

에 의한 블랙박스적 판단으로 인해 인종이나 성별 같은 기준에서 용납할 수 없고 불법적인 편

향성이 발생할 수 있다는 점이다. 예를 들어, 범죄 평가 시스템(

https://oreil.ly/ddM8A

)과

채용 도구(

https://oreil.ly/VPWi0

)에서 그러한 일이 발생할 수 있다.

기업과 정부가 머신러닝의 혜택을 누리려면, 머신러닝에 대한 국민의 신뢰를 보호하고 리스크

를 선제적으로 해결해야 한다. 기업 입장에서는

MLOps

프로세스에 대한 강력한 거버넌스를

개발해야 한다. 기업은 리스크를 평가하고 공정함을 정의한 뒤, 리스크를 관리하는 데 필요한

절차를 수립해야 한다. 이 중 대부분은 머신러닝에 내재된 리스크를 경감하는 데 중점을 둔다.

이에 해당하는 주제로는 데이터 출처, 투명성, 편향성, 성능 관리 및 재현 가능성 등이 있다.

8.2

리스크 수준에 거버넌스 맞추기

거버넌스는 거저 먹을 수 있는 게 아니다. 노력과 규율, 시간이 들어간다.

비즈니스 이해당사자 입장에서 보면 거버넌스로 인해 새로운 모델 제공이 더뎌질 가능성이 높

으며, 이로 인해 사업 비용이 추가될 수 있다. 데이터 과학자에게는 일을 방해하는 관료주의처

럼 보일 수 있다. 하지만 이와 대조적으로, 위험을 관리하는 업무의 담당자나 배포를 관리하는

DevOps

팀의 입장에서는 전반적으로 엄격한 거버넌스가 의무화되어야 한다.

MLOps

담당자는 여러 사용자 사이에 내재된 긴장을 관리하여, 작업을 효율적으로 수행하는

것과 가능한 모든 위협으로부터 ...