밑바닥부터 시작하는 딥러닝

83

3

장

-

신경망

3.4

3

층 신경망 구현하기

이제 더 그럴싸한 신경망을 구현해보죠. 이번에는 [그림

3

-

15

]의

3

층 신경망에서 수행되는,

입력부터 출력까지의 처리 (순방향 처리 )를 구현하겠습니다. 이를 위해 앞에서 설명한 넘파이

의 다차원 배열을 사용합니다. 넘파이 배열을 잘 쓰면 아주 적은 코드만으로 신경망의 순방향

처리를 완성할 수 있습니다.

그림

3-15

3

층 신경망 : 입력층(

0

층)은

2

개, 첫 번째 은닉층(

1

층)은

3

개, 두 번째 은닉층(

2

층)은

2

개, 출력층(

3

층)은

2

개의 뉴런으로 구성된다.

3.4.1

표기법 설명

이번 절에서는 신경망에서의 처리를 설명하며

w

12

(

1

)

과

a

1

(

1

)

같은 표기법을 선보입니다. 조금 복

잡해 보일 수 있는데, 이번 절에서만 사용하는 표기이니 가볍게 건너뛰고 읽어도 문제는 없습

니다.

WARNING

_ 이번 절의 핵심은 신경망에서의 계산을 행렬 계산으로 정리할 수 있다는 것입니다. 신경망 각

층의 계산은 행렬의 내적으로 처리할 수 (더 큰 관점에서 생각할 수 ) 있으니, 세세한 표기 규칙은 잊어버려도

앞으로의 설명을 이해하는 데 전혀 지장이 없습니다.

그럼 하나씩 정의해봅시다. [그림

3

-

16

]을 보세요. [그림

3

-

16

]은 입력층의 뉴런

x

2

에서 다

음 층의 뉴런

a

1

(

1

)

으로 향하는 선 위에 가중치를 표시하고