살아 움직이는 머신러닝 파이프라인 설계: 텐서플로와 함께하는 머신러닝 프로젝트 자동화

216

살아 움직이는 머신러닝 파이프라인 설계

예제

8-6

파이썬 클라이언트를 사용한 모델 예측 요청의 예

import

requests

def

get_rest_request(text, model_name=”my_model”):

# 서버가 동일한 컴퓨터에서 실행되지 않다면 localhost를 IP 주소로 변경합니다.

url = “http://localhost:8501/v1/models/{}:predict”.format(model_name)

# 더 많은 샘플을 추론하려면 instance 목록에 예제를 추가합니다.

payload = {“instances”: [text]}

response = requests.post(url=url, json=payload)

return

response

rs_rest = get_rest_request(text=”classify my text”)

rs_rest.json()

8.11.2

gRPC

로 텐서플로 서빙 사용하기

gRPC

와 함께 모델을 사용할 때는

REST

API

요청과 단계가 약간 다릅니다.

먼저

gRPC

channel

을 설정합니다. 채널은 지정된 호스트 주소와 포트를 사용해

gRPC

서버

연결을 제공합니다. 보안 연결이 필요하다면 이 시점에 보안 채널을 설정해야 합니다. 채널이

설정되면

stub

을 생성합니다.

stub

은 사용할 ...