쿠버네티스 창시자에게 배우는 모범 사례 2판

308

쿠버네티스 창시자에게 배우는 모범 사례 2판

14.3.4

특수 하드웨어

모델 훈련은 특수 하드웨어에서 수행하는 것이 거의 항상 더 효율적이다. 상용

GPU

가 대표

적인 예다. 쿠버네티스는 디바이스 플러그인을 통해

GPU

에 액세스할 수 있으므로

GPU

리

소스도 스케줄링할 수 있다. 덕분에 벤더가 자사에서 개발한 특정 디바이스를 구현하기 위해

코어 쿠버네티스 코드를 수정할 필요가 없다.

디바이스 플러그인은 보통 각 노드에서 데몬셋으로 실행되는데, 데몬셋은 특정 리소스를 쿠

버네티스

API

에 애드버타이징하는 프로세스다. 가령,

NVIDIA

GPU

는

NVIDIA

디바이스

플러그인

6

으로 액세스한다. 이 플러그인을 실행하면 다음과 같은 파드가 생성되고, 쿠버네티

스는 이 리소스를 사용 가능한 노드에 파드를 스케줄링한다.

apiVersion

:

v1

kind

:

Pod

metadata

:

name

:

gpu

-

pod

spec

:

containers

:

-

name

:

digits

-

container

image

:

nvidia

/

digits

:

6

.

0

resources

:

limits

:

nvidia

.

com

/

gpu

:

2

#

GPU 2

개

요청

디바이스 플러그인은

GPU

에만 국한되지 않는다. 가령,

FPGA

Field

Programmable

Gate

Arrays

7

나 인피

니밴드

InfiniBand

같은