
191
8
장
텐서플로 서빙을 사용한 모델 배포
머신러닝 모델의 배포는 다른 사용자가 모델을 사용하고 예측하기 전에 마지막으로 수행해야
할 단계입니다. 안타깝지만 머신러닝 모델의 배포는 오늘날 소프트웨어 업계 분업 면에서 회색
지대로 전락하고 있습니다. 모델 아키텍처와 하드웨어 요구사항에 관한 지식이 필요하므로 단
순한 데브옵스 작업이 아닙니다. 또한 머신러닝 모델을 배포하는 일은 머신러닝 엔지니어와 데
이터 과학자들이 익숙한 영역 밖에 있습니다. 그들은 모델을 속속들이 알고 있지만, 머신러닝
모델 배포에 어려움을 겪곤 합니다. 이 장과 다음 장에서는 데이터 과학자와 데브옵스 엔지니
어에게 각자 업무 지식의 격차를 해소하고 머신러닝 모델을 배치하는 단계를 안내합니다. [그
림
8
-
1
]은 머신러닝 파이프라인에서 배포 단계의 위치를 보여줍니다.
데이터
수집
파이프라인
오케스트레이션
메타데이터스토어 데이터베이스
데이터
검증
데이터
전처리
모델
학습
모델 분석 및
검증
모델
배포
그림
8-1
머신러닝 파이프라인의 일부로서의 배포
머신러닝 모델은 세 가지 주요 방법(모델 서버, 사용자 브라우저, 에지 장치
edge
device
)으로 배
포할 수 있습니다. 오늘날 머신러닝 모델을 구축할 때는 모델 서버와 함께 사용하는 방법을 가
텐서플로 서빙을 사용한 모델 배포
CHAPTER
8