
839
19
장
대규모 텐서플로 모델 훈련과 배포
NOTE
_
AI
플랫폼의 작업은 대량의 데이터에서 모델을 효율적으로 실행하기 위해서 사용할 수 있습니다.
각 워커가
GCS
에서 데이터의 일부분을 읽고 예측을 만들어
GCS
에 저장할 수 있습니다.
이제 여러분은 다양한 분산 전략을 사용해 대규모 훈련을 하기 위한 도구와 지식을 갖췄습니다.
심지어 하이퍼파라미터 세부 튜닝을 위해 강력한 베이즈 최적화를 할 수도 있습니다.
19.5
연습문제
1. SavedModel
에 포함된 것은 무엇인가요? 이 내용을 어떻게 조사할 수 있나요?
2. TF
서빙을 언제 사용해야 하고 주기능은 무엇인가요? 배포를 위해 쓸 수 있는 도구는 무
엇인가요?
3.
여러
TF
서빙 인스턴스로 모델을 어떻게 배포하나요?
4. TF
서빙으로 서비스되는 모델에 쿼리하기 위해
REST
API
대신
gRPC
API
를 사용
해야 할 때는 언제인가요?
5. TFLite
가 모바일이나 임베디드 장치에서 실행되도록 모델 크기를 줄이기 위한 방법은
무엇인가요?
6.
양자화를 고려한 훈련
quantization
-
aware
training
은 무엇인가요? 왜 필요한가요?
7.
모델 병렬화와 데이터 병렬화는 무엇인가요? 왜 일반적으로 후자를 권장하나요?
8.
서버 여러 대에서 모델을 훈련할 때 어떤 분산 전략을 쓸 수 있나요? 선택 ...