
402
MLOps 실전 가이드
2021-03-23 INFO - Model inputs: ['input']
2021-03-23 INFO - Model outputs: ['output']
2021-03-23 INFO - ONNX model is saved at mobilenet_v2_1.0_224_quant.onnx
양자화된 텐서플로 라이트 모델의
ONNX
변환이 완료되었다. 얕은 깊이의 실습이었지만 모
델의 생성, 변환, 입출력에 대해 이해할 수 있으면 된다. 다양한 프레임워크로 개발된 모델
을
ONNX
로 변환하는 과정에 이어서, 클라우드 환경에서 활용하는 방법에 대해 간단히 살펴
보자.
10.2.4 10.2.4
애저에서 애저에서
ONNXONNX
모델 배포 모델 배포
애저에서
ONNX
모델을 배포하려면 애저 파이썬
SDK
를 이용하면 좋다. 애저 파이썬
SDK
는
애저의 머신러닝 서비스와 상호작용을 지원하기 때문에, 머신러닝 워크로드를 단순화하는 데
도움이 된다. 이번 실습에서는 애저 파이썬
SDK
를 통해
ONNX
모델을 애저의 컴퓨팅 클러스
터에 배포하는 것을 보여 주고자 한다.
앞서
4
장에서 ‘머신러닝 모델 패키징’에서는 모델을 애저로 불러오고, 컨테이너에 패키징하는
것에 대한 내용을 다루었다. 코드 일부를 재사용하여 배포될 서비스에서 사용할 스코어링 파일
을 만들어보자. ...