MLOps 도입 가이드

88

2부MLOps적용방법

5.1

실행 환경

모델을 상용 환경으로 내보내기 위한 첫 번째 단계는 기술적으로 가능한지 확인하는 것이다.

3

장에서 논의한 바와 같이, 이상적인

MLOps

시스템은 노동 집약적 절차보다는 빠르고 자동화

된 배포를 활용하는 편이고, 실행 환경이 접근 방식에 큰 영향을 미칠 수 있다.

상용 환경은 다양한 형태로 존재한다. 요구사항에 맞춰 구축된 서비스, 데이터 사이언스 플랫

폼, 텐서플로 서빙

TensorFlow

Serving

과 같은 전용 서비스, 쿠버네티스

Kubernetes

클러스터와 같은 저수

준 인프라스트럭처, 임베디드 시스템상의

JVM

등이 그 예다. 더 복잡한 상황도 존재하는데, 일

부 조직의 경우 상용 환경을 여러 이기종 환경으로 구성하는 경우도 있다.

이상적으로 보면, 개발 환경에서 작동하는 모델을 검증한 다음 그대로 상용 환경으로 전달해야

한다. 이를 통해 적용 작업을 최소화하고 모델이 상용 환경에서도 개발 환경과 동일하게 작동

할 가능성을 높인다. 하지만 불행히도 이 이상적 시나리오가 항상 가능한 건 아니다. 장기간 진

행한 프로젝트이지만 상용 환경에 배포하지 못하고 종료되는 경우도 있다.

5.1.1

개발 환경에서 상용 환경으로 옮겨 적용하기

적용 작업의 관점에서 볼 때, 여러 경우 중 하나 정도는 개발 플랫폼과 상용 플랫폼 둘 다 동일

벤더에서 제작한 것이거나 상호 운용 가능하여, 개발 모델을 아무런 수정 없이 상용 환경에서

실행할 수 있다. 이 경우, 모델을 상용 배포하기 위한 기술적 단계는 ...