MLOps 도입 가이드

114

2부MLOps적용방법

컴퓨팅 측면에서 모델 수를 확장하는 것은 꽤 간단하다. 컴퓨팅 성능을 추가하고 모니터링 인

프라가 워크로드를 처리할 수 있도록 하는 게 전부다. 그러나 거버넌스와 프로세스 측면에서

보면 모델 수 확장은 가장 어려운 문제다. 특히 이 문제는

CI

/

CD

파이프라인이 많은 수의 모

델을 배포 처리할 수 있어야 함을 의미한다. 모델 수가 증가하면 인적 검증을 체계적이거나 일

관되게 진행할 수 없기 때문에 자동화 및 거버넌스의 필요성이 커진다.

일부 응용 프로그램에서는 자동화된 검증, 카나리 출시, 자동화된 카나리 분석 등으로 리스크

를 잘 제어하는 경우 완전 자동화된 지속적 배포를 활용할 수도 있다. 하지만 학습, 모델 개발,

학습 데이터 기반 검증 등의 모든 작업을 하나의 장비가 아닌 클러스터에서 수행해야 하기 때

문에, 인프라 측면에서 수많은 과제를 해결해야 할 수 있다. 또한 모델 수가 많을수록 모델별로

CI

/

CD

파이프라인이 크게 달라질 수 있고, 아무런 조치를 취하지 않는다면 각 팀은 자체적으

로 모델별

CI

/

CD

파이프라인을 개발해야 한다.

이는 효율성과 거버넌스 측면을 고려한 차선책이다. 일부 모델에는 매우 특화된 검증 파이프라

인이 필요할 수 있지만, 대부분의 프로젝트에서는 약간의 공통 패턴만 사용해도 충분할 수 있

다. 또한 각 파이프라인이 반드시 공통 구조를 공유해야 하는 제약이 없어 각각을 개별적으로

구축하였고 어떤 프로그래밍 방법을 동원하더라도 안전하게 업데이트할 수 있다는 보장이 없

다면, ...