살아 움직이는 머신러닝 파이프라인 설계: 텐서플로와 함께하는 머신러닝 프로젝트 자동화

192

살아 움직이는 머신러닝 파이프라인 설계

장 많이 사용합니다. 이 장에서 중점적으로 다루겠습니다. 예측을 요청하는 클라이언트는 입력

데이터를 모델 서버로 제출하고 이에 상응하는 예측을 수신합니다. 이렇게 하려면 클라이언트

가 모델 서버에 연결할 수 있어야 합니다.

입력 데이터를 모델 서버에 제출하고 싶지 않을 때 (예: 입력 데이터가 중요하거나 개인 정보

보호 문제가 있을 때)가 있습니다. 이런 상황에서는 사용자의 브라우저에 머신러닝 모델을 배

포할 수 있습니다. 예를 들어 이미지에 중요한 정보가 포함되어 있는지를 확인하려면, 이미지

를 클라우드 서버에 업로드하기 전에 해당 이미지의 민감도 수준을 분류할 수 있습니다.

그리고 세 번째 유형인 에지 장치에 배포하는 방법도 있습니다. 모델 서버에 연결하여 예측

을 할 수 없는 상황(예: 원격 센서,

IoT

장치)이 있습니다. 에지 장치에 배포되는 애플리케이

션의 수가 증가하여 모델 배포에 유효한 옵션이 되고 있습니다.

10

장에서는 텐서플로 모델을

TFLite

모델로 변환하여 에지 장치에서 실행하는 방법을 설명합니다.

이 장에서는 텐서플로 모델을 모델 서버를 사용해 단순하고 일관성 있게 배포하는 방법인 텐서

플로 서빙 모듈을 중점적으로 설명합니다. 관련 설정을 소개하고 효율적인 배포 옵션에 대해

논의하겠습니다. 이 방법 외에도 딥러닝 모델을 구축하는 몇 가지 대안적인 옵션이 있습니다.

이 장의 마지막 부분에서 다루겠습니다.

텐서플로 서비스를 자세히 살펴보기 전에 먼저 잘못된 방식의 모델 서버 ...