108
2부MLOps적용방법
이거나 바람직한 건 아니며, 기술적인 결정이자 비즈니스적인 결정에 해당한다. 반면, 지속적
인 전달은 개발 팀이 생산성과 품질을 개선하고 진행 상황을 보다 안정적으로 측정할 수 있는
도구다. 지속적인 전달은 지속적인 배포에 필수적이지만, 지속적인 배포 없이 지속적인 전달만
으로도 엄청난 가치를 제공할 수 있다.
출시
Release
원칙적으로, 모델의 어떤 버전을 배포(상용 인프라에 대한 배포도 포함한다)한다고 해서 반드
시 상용 환경의 부하
workload
가 새 버전으로 전달되는 것은 아니기 때문에 출시는 또 다른 단계
라 할 수 있다. 곧 알게 되겠지만, 모델의 여러 버전을 상용 인프라에서 동시에 실행할 수도
있다.
MLOps
프로세스에 관계된 모든 사람이 이러한 개념의 의미와 적용 방법을 동일한 수준으로
이해할 수 있다면, 기술적인 부분과 비즈니스적인 부분 모두에서 절차가 원활해질 수 있다.
6.3.1
모델 배포의 종류
다양한 배포 전략과 함께 모델 배포에 접근하는 두 가지 방법이 있다.
●
일괄스코어링(
batch
scoring
):모델을사용하여전체데이터세트를처리한다.매일예약된작업과같은방
식을사용한다.
●
실시간스코어링(
real
-
time
scoring
):한가지혹은적은양의기록을점수매긴다.웹사이트에광고가표시
될때표시할항목을결정하기위해모델이사용자세션에점수를매기는것과같은방식이다.
이 두 가지 접근 방식 사이에는 연속성이 있다. 게다가 어떤 시스템에서는 ...