October 2021
Beginner to intermediate
416 pages
9h 3m
Korean
Content preview from 살아 움직이는 머신러닝 파이프라인 설계: 텐서플로와 함께하는 머신러닝 프로젝트 자동화
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
231
8
장
텐서플로 서빙을 사용한 모델 배포
8.18.1
사용 사례
모델을 원활하게 배포하고 모델 배포 확장에 대해 걱정하지 않으려면, 머신러닝 모델의 관리형
클라우드 배포가 모델 서버 인스턴스를 실행하는 좋은 대안입니다. 모든 클라우드 공급자는 추
론 요청 수에 따라 확장할 수 있는 기능을 갖춘 배포 옵션을 제공합니다.
그러나 모델 배포의 유연성을 높이려면 비용이 듭니다. 관리형 서비스는 쉬운 배포를 제공하지
만 비용이 많이 듭니다. 예를 들어 풀타임으로 실행하는 두 모델 버전(두 개의 계산 노드가 필
요함 )은 텐서플로 서빙 인스턴스를 실행하는 유사한 컴퓨팅 인스턴스보다 더 비쌉니다. 관리
형 배포의 또 다른 단점은 제품의 제한입니다. 일부 클라우드 공급자는 자체 소프트웨어 개발
키트를 사용해 배포하기를 요구하며, 노드 크기와 모델에서 차지할 수 있는 메모리양에 제한을
두는 공급업체도 있습니다. 이는 특히 모델이 매우 많은 계층 (예: 언어 모델 )을 포함할 때 머
신러닝 모델에 심각한 제한이 될 수 있습니다.
8.18.2
GCP
를 사용한 배포 예시
이 절에서는 구글 클라우드의
AI
플랫폼을 사용하여 배포 프로세스를 안내합니다. 구성 파일을
작성하고 터미널 명령을 실행하는 대신 웹
UI
로 모델 엔드포인트를 설정할 수 있습니다.
WARNING
_
GCP
AI
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.