고성능 파이썬(2판)

237

7

장

C 언어로 컴파일하기

는

1

.

35

GHz

에서 실행되는 코어가

4

,

352

개 있다.

3

이 엄청난 양의 병렬화 덕분에 많은 수치 계산 작업의 속도가 획기적으로 빨라진다. 하지

만 이런 장치를 사용하는 프로그래밍은 몹시 어렵다. 병렬화 수준이 높아서 데이터 지역성

을 꼭 고려해야 하고, 지역성이 속도 향상의 성패를 좌우한다.

CuPy

등 파이썬으로 네이티브

GPU

(

kernel

이라고도 부름 ) 코드를 작성할 수 있는 여러 가지 도구가 있다. 하지만 최신 딥

러닝 알고리즘의 필요성이 커지면서 쉽고 직관적으로 사용할 수 있는

GPU

인터페이스가 필요

해졌다.

쉽게 사용할 수 있는

GPU

수학 라이브러리의 선두주자는 텐서플로와 파이토치다.

4

7.13.1

동적 그래프: 파이토치

파이토치 (

https

://

pytorch

.

org

/

)는 정적 계산 그래프 텐서

tensor

라이브러리로, 특히

numpy

에 익숙한 사용자가 이용하기 쉬우며

API

도 아주 직관적이다. 또한 파이토치는 텐서 라이브러

리이므로

numpy

와 같은 기능을 제공하며, 자체 정적 계산 그래프를 통해 함수를 만들고 이런

함수의 도함수를

autograd

라는 메커니즘을 통해 계산해주는 기능을 추가로 제공한다.

NOTE

_ 파이토치의

autograd

기능은 이 책의 주제와 관계가 없으므로 자세히 살펴보지 않는다. 하지

만 ...