살아 움직이는 머신러닝 파이프라인 설계: 텐서플로와 함께하는 머신러닝 프로젝트 자동화

214

살아 움직이는 머신러닝 파이프라인 설계

8.11.1

REST

로 모델 예측 가져오기

REST

로 모델 서버를 호출하려면 원활한 통신을 위해 파이썬 라이브러리가 필요합니다. 현재

표준 라이브러리는

requests

입니다. 라이브러리를 설치합니다.

$ pip install requests

다음은

POST

요청의 예입니다.

import

requests

url = “http://some-domain.abc”

payload = {“key_1”: “value_1”}

r = requests.post(url, json=payload) # 요청을 제출합니다.

print

(r.json()) # HTTP 응답을 봅니다.

# {‘data’: ...}

URL

구조

모델 서버에 대한

HTTP

요청

URL

은 다음 모델과 추론할 버전 정보를 포함합니다.

http://{HOST}:{PORT}/v1/models/{MODEL_NAME}:{VERB}

●

HOST

호스트는 모델 서버의

IP

주소나 도메인 이름입니다. 클라이언트 코드를 실행하는 동일한 시스템에서 모

델 서버를 실행한다면 호스트를

localhost

로 설정할 수 있습니다.

●

PORT

요청

URL

에서 포트를 지정해야 합니다.

REST

API

의 표준 포트는

8501

입니다. 서비스 생태계의 다른

서비스와 충돌한다면, 서버 시작 중에 ...