MLOps 도입 가이드

115

6장 상용배포

효과적인 로깅 시스템은 중앙 집중식 데이터 세트를 생성하고, 모델 설계자 또는 머신러닝 엔

지니어가 이를 생산 환경 밖에서도 이용할 수 있도록 해야 한다. 구체적으로 얘기하자면 다음

과 같은 모든 상황을 처리할 수 있어야 한다.

●

실시간스코어링이든일괄스코어링이든,시스템은여러서버상의스코어링로그를읽고추출할수있다.

●

모델하나를여러서버에배포하면,시스템은여러서버에걸쳐모델에대한모든정보의매핑및집계를처리

할수있다.

●

한모델의여러가지버전을배포한경우,시스템은여러서버에걸쳐모델의버전별정보의매핑및집계를처

리할수있다.

도전 과제라는 측면에서, 대규모 머신러닝 응용 프로그램의 경우 데이터를 필터링하고 집계하

기 위한 사전 처리 단계가 없으면 생성된 원시 이벤트 로그 수가 문제될 수 있다. 실시간 스코

어링 사례의 경우, 스트리밍 데이터를 로깅하려면 유지보수에 상당한 엔지니어링 측면의 역량

이 들어가는 완전히 새로운 도구들을 사용해야 한다. 하지만 두 경우 모두 모니터링의 목적이

일반적으로 집계된 지표를 추정하는 것이기 때문에 예측 데이터의 하위집합만 저장하더라도

문제없다.

6.7

마치며

상용 환경에 배포하는 것은

MLOps

의 핵심 구성 요소다. 이번 장에서 설명했듯이, 적절한 프

로세스와 도구를 갖추면 배포 작업을 신속하게 수행할 수 있다. 좋은 소식은 성공하기 위한 여

러 요소 중 다수가, 특히

CI

/

CD

모범 실천 사례가 새로운 것은 아니라는 점이다. 각 ...