용하면 검증된 모델을 지정된 위치(예: 클라우드 스토리지 버킷)로 푸시할 수 있습니다. 텐서
플로 서빙에서는 클라우드 저장소 위치에서 새 모델 버전을 선택하고 이전 모델 버전을 언로드
한 후 지정된 모델 엔드포인트의 최신 버전을 로드할 수 있습니다. 이는 텐서플로 서빙의 기본
모델입니다.
기본 모델 정책 덕분에
TFX
와 텐서플로 서빙을 사용하여 간단한 연속 배포 설정을 쉽게 작성
할 수 있습니다.
8.20
요약
이 장에서는 머신러닝 모델을 배포하기 위해 텐서플로 서빙을 설정하는 방법과 플라스크 웹 애
플리케이션으로 머신러닝 모델을 배포하는 것보다 모델 서버가 더 확장 가능한 옵션인 이유를
알아봤습니다. 설치와 구성 단계를 살펴보고,
REST
와
gRPC
라는 두 가지 주요 통신 옵션을 소
개하고, 두 통신 프로토콜의 장단점을 간략하게 설명했습니다.
또한 모델 요청의 배치 처리와 다양한 모델 버전에 대한 메타데이터 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.