May 2021
Beginner to intermediate
528 pages
11h 27m
Korean
Content preview from 고성능 파이썬(2판)
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
Start your free trial
241
7
장
C 언어로 컴파일하기
여기서
95
%를 보이는
GPU
사용률은 이름을 잘못 지은 지표다. 이 지표는 마지막
1
초의 몇 %
가 최소 한 커널이라도 계산을 수행했는지 알려준다. 따라서 이 지표는
GPU
의 전체 계산 능력
중 몇 %를 사용했는지 알려주는 대신,
GPU
가 얼마나 많은 시간을 유휴 상태로 보내지
않았는
지
를 알려준다. 이 지표는
CPU
가
GPU
에 충분한 작업을 전송하는지 확인하거나 메모리 전송
문제를 디버깅할 때 도움이 된다.
반면 소비 전력은
GPU
의 계산 능력을 얼마나 사용했는지 살펴보기 좋은 대체지표
proxy
다. 일
반적으로
GPU
가 더 많은 전력을 소비한다면 더 많은 계산을 수행한다는 의미다.
GPU
가
CPU
에서 보내는 데이터를 기다리거나, 가용 코어 중 절반만 사용한다면 소비 전력이 최대치
보다 낮을 것이다.
gpustat
(
https
://
oreil
.
ly
/
3Sa1r
)도 유용한 도구다. 이 프로젝트는
nvidia
-
smi
보다 더
쉬운 인터페이스를 통해
NVIDIA
의 상태를 멋지게 보여준다.
파이토치 코드를 느리게 하는 요인을 구체적으로 이해하고 싶다면, 파이토치 프로젝트에
서 제공하는 특별한 프로파일링 도구를 이용해 보라. 코드를
python
-
m
torch
.
utils
.
bottleneck
으로 실행하면
CPU
와
GPU
실행 시간 통계를 볼 수 있다. 이는
CPU
와
GPU
관
련 최적화 여지가 있는 코드를 찾는 데 도움이 된다.
7.13.3
GPU
사용 시 성능상 고려할 점
GPU
는 컴퓨터에서 완전히 보조적인 하드웨어이고, ...