
130
MLOps 실전 가이드
3.2.1 3.2.1
구글 코랄구글 코랄
엣지 배포의 본질은 빠르고, 사용자와 밀접하게 상호작용하고, 인터넷 없이도 잘 작동하도록
만드는 것이다. 코랄 프로젝트
Coral
Project
17
는 엣지 배포의 본질을 지키며 엣지 디바이스에서 머
신러닝 추론을 할 수 있도록 돕는 플랫폼이다.
18
이번 절에서는 텐서플로 라이트 모델들을 실
행할 수 있는
USB
형태의 가속기에 대해 다룬다. 대부분의 텐서플로 라이트 모델들을 컴파일
하여 이 엣지 텐서 처리 장치
Tensor
Processing
Unit
(
TPU
)에서 실행할 수 있다. 엣지 디바이스에서
머신러닝 모델이 실행되도록 만들 때 고려해야 하는 점들이 있다. 첫째, 실행하고자 하는 머신
러닝 연산 및 가속이 지원되는 하드웨어인지 확인해야 한다. 둘째, 엣지 디바이스에 머신러닝
모델을 설치하는 방법이 잘 안내되어 있는지와 셋째, 엣지 배포 관련 소프트웨어 간의 호환성
은 괜찮은지를 확인해야 한다. 코랄 엣지
Coral
Edge
TPU
는 이 세 가지 측면을 모두 충족했다고
생각한다. 대부분의 텐서플로 라이트 모델들은 컴파일만 무사히 마치면 별다른 문제없이
TPU
에서 실행이 가능하다.
간단한 코랄 예제를 실행하기 위해서는 코랄
TPU
런타임과 텐서플로 런타임이 필요하다. 먼
저 코랄
TPU