
49
3장 MLOps의핵심기능
Model
-
as
-
a
-
service
혹은 실시간-스코어링 모델
Live
-
scoring
Model
일반적으로
REST
API
종단점
endpoint
(
API
요청을 받으면 작업을 수행하는 자원에 접속
Access
하
는 수단)을 제공하는 간단한 프레임워크에 모델을 배포하고, 실시간으로 요청에 응답한다.
임베디드 모델
Embedded
Model
모델을 애플리케이션 내에 패키징하여 게시
Publish
한다. 일반적인 사례로는 요청들을 일괄 스코
어링
Batch
Scoring
하는 애플리케이션이 있다.
물론 배포할 모델이 무엇으로 구성되어 있는지는 선정한 기술에 달려 있지만, 보통 일련의 코
드(일반적으로
Python
,
R
,
Java
)와 데이터 아티팩트
Data
Artifact
로 구성되어 있다. 이 중 어떤 것
이든 런타임 및 패키지들과의 버전 의존성이 있을 수 있으므로, 이러한 부분들도 상용 환경에
서 맞춰줘야만 모델의 예측 결과가 달라지지 않는다.
상용 환경에서 의존성을 축소하기 위한 방법 중 하나로 이동이 용이한
Portable
포맷을 사용하는
방법이 있다. 이동이 용이한 포맷으로는
PMML
,
PFA
,
ONNX
,
POJO
등이 있다. 이 포맷들
은 시스템 간 모델의 이동 용이성 향상을 목표로 하고 있어, 이 포맷들을 이용하면 배포가 간단
해질 수 있다.