MLOps 도입 가이드

29

1장 왜지금이고도전과제는무엇인가

서 사용하는지를 전반적으로 파악하는 것이다. 또한 데이터에 대해 신뢰할 수 있고 규정에 따

라 수집된다고 보장하는 것이다. 그리고 어느 모델이 어떤 비즈니스 프로세스에서 사용되는가

를 중앙 집중식으로 이해하는 것이다. 이는 추적성

Traceability

과 밀접한 연관이 있다. 즉, 무언가

잘못되었을 때, 파이프라인의 어느 지점에서 발생하는지 쉽게 찾을 수 있어야 한다.

이 두 가지 원칙이 명확해 보일 수 있지만, 머신러닝 모델은 전통적인 명령형 코드에 비해서는

투명성이 부족하다는 점을 감안해야 한다. 풀어서 얘기하자면, 예측 결과를 결정하는 데 사용

하는 특성들

features

이 무엇인지 파악하기가 대단히 어렵다. 따라서 모델이 준수해야 하는 규제

나 내부 규정에 적합하다고 입증하기도 대단히 어렵다.

이러한 이유로 머신러닝 모델에 대한 자동화를 실제로 도입할 때 책무

Accountability

를 지는 역할

은 조직의 하위에서 상위로 이동한다. 즉, 과거에는 각각의 업무 담당자가 내리던 결정(예를 들

면, 상품 가격을 결정한다든가 누군가에게 대출을 진행해도 될지 결정하는 것)을 모델이 내리

고, 이 결정에 대한 책임은 데이터 팀의 관리자 혹은 임원이 져야 한다. 이 때문에 책임 있는

AI

의 개념은 더욱 전면으로 부각된다.

이러한 도전 과제 및 원칙과 이전에 논의했던 리스크를 고려하면,

MLOps

와 책임 있는

AI

간

의 상호작용은 당연한 일이다.

MLOps

원칙을 준수해야 책임 있는

AI

를 실행할 수 ...