고성능 파이썬(2판)

243

7

장

C 언어로 컴파일하기

가장 중요한 단계는

7

.

13

.

2

‘기본

GPU

프로파일링’에서 설명한 도구로 코드를 프로파일하는

것이다. 코드가 대부분의 시간을 데이터 전송에 소비한다면, 전력 소모가 적고,

GPU

사용률이

줄어들며 (

nvidia

-

smi

로 확인), 시간이 대부분

to

함수에 소비됨을 알 수 있다 (

bottleneck

으로 확인 ). 이상적인 경우에는

GPU

를

100

% 활용하며 지원하는 최대 전력을 사용할 것이다.

전송할 데이터가 크더라도 이런 현상을 관찰할 수 있다. 수많은 이미지로 이뤄진 딥러닝 모델

을 훈련할 때도 마찬가지다!

WARNING

_

GPU

는 여러 작업을 동시에 실행하는 일에는 뛰어나지 않다.

GPU

를 많이 사용하는 작업을

시작할 때는

nvidia

-

smi

를 실행해서 다른 작업이

GPU

를 활용하지 않는다는 사실을 확인해야 한다. 하지

만 그래픽 환경을 실행 중이라면 데스크톱과

GPU

코드가

GPU

를 동시에 사용하는 일을 막을 수 없다.

7.13.4

GPU

사용 시점

우리는

GPU

가 엄청나게 빠르다는 사실을 확인했다. 하지만, 실행 시점에 메모리 관련 고려 사

항이 너무 많아서 힘들 수 있다. 작업이 주로 선형 대수와 행렬(행렬곱, 행렬 덧셈, 푸리에 변

환 등)로 이뤄졌다면

GPU

가 굉장히 유용하다. 특히 계산 결과를 시스템 메모리로 ...