
241
9
장
텐서플로 서비스를 사용한 고급 모델 배포
이전 장에서는 텐서플로 서빙을 사용하는 텐서플로 또는 케라스 모델의 효율적인 구현에 대해
살펴봤습니다. 기본 모델 배치와 텐서플로 서빙 구성에 관한 지식을 바탕으로 이 장에서는 머
신러닝 모델 배포의 고급 사용 사례를 소개합니다. 사용 사례는 모델
A
/
B
테스트 배포, 배포
및 확장을 위한 모델 최적화, 모델 배포 모니터링 등 다양한 주제를 다룹니다. 이 장은 이전 장
의 내용을 바탕으로 진행하므로 이전 장을 먼저 살펴보시기를 권장합니다.
9.1
배포 주기 분리
8
장에서 살펴본 기본 배포는 잘 작동하지만, 한 가지 제한 사항이 있습니다. 학습되고 검증된
모델은 이전 장에서 설명한 대로 빌드 단계에서 배포 컨테이너 이미지에 포함되거나 컨테이너
런타임 중에 컨테이너에 마운트되어야 합니다. 두 옵션 모두 데브옵스 프로세스 지식 (예: 도커
컨테이너 이미지 업데이트 )이나 새 모델 버전의 배포 단계에서 데이터 과학팀과 데브옵스팀
간의 조정이 필요합니다.
8
장에서 간단히 언급했듯이 텐서플로 서빙은 원격 스토리지 드라이브(예:
AWS
S3
,
GCP
스
토리지 버킷)에서 모델을 로드할 수 있습니다. 텐서플로 서빙의 표준 로더 정책은 모델 저장
위치를 폴링하고 이전에 로드된 모델을 언로드하며 새 모델을 탐지하면 로드합니다. ...