MLOps 도입 가이드

112

2부MLOps적용방법

스트 그룹에서 애플리케이션을 실행할 수 있는 강력한 선언적

API

를 제공한다. 선언형

declarative

이라는 단어는 컨테이너를 설정하고 모니터링하고 업그레이드하고 중지하고 연결하는 단계를

(복잡하고 오류가 발생하기 쉬운) 코드로 표현하는 대신, 사용자가 원하는 상태를 구성 파일에

저장하며 쿠버네티스가 이를 알아서 처리하고 유지보수하는 것을 의미한다.

예를 들어, 사용자가 쿠버네티스에 ‘항상 이 컨테이너의 인스턴스

4

개가 실행되도록’ 이라고 지

정하면 쿠버네티스가 호스트를 할당하고 컨테이너를 시작하고 모니터링하며 그것들 중 하나가

실패할 경우 새 인스턴스를 시작한다. 마지막으로, 주요 클라우드 제공자들은 모두 관리형 쿠

버네티스 서비스를 제공하는데, 사용자는 쿠버네티스 자체를 설치하고 유지 관리할 필요도 없

다. 응용 프로그램이나 모델이 도커 컨테이너로 패키징된 경우 사용자가 직접 업로드할 수 있

고, 서비스 자체적으로 쿠버네티스 내에서 컨테이너의 하나 또는 여러 인스턴스를 실행하기 위

해 필요한 시스템을 프로비저닝한다.

쿠버네티스와 결합된 도커는 머신러닝 모델을 포함한 응용 프로그램을 호스팅할 수 있는 강력

한 인프라를 제공할 수 있다. 이러한 제품을 활용하면 청색-녹색 배포나 카나리 출시와 같은

배포 전략의 구현을 간소화할 수 있다. 하지만 쿠버네티스나 도커가 배포된 응용 프로그램의

특성을 인식하지는 못하므로 머신러닝 성능 분석의 관리 기능이 기본적으로 존재하는 것은 아

니라는 점을 인지해야 한다. ...