fastai와 파이토치가 만나 꽃피운 딥러닝

527

13



합성곱 신경망

편향의 항

b

는 이미지의 각 부분에서 동일합니다. 가중치 (

α

,

β

,

γ

,

δ

)가 커널의 일부이듯이,

편향 또한 커널의 일부로 고려될 수 있습니다.

여기에는 흥미로운 통찰이 숨어있습니다. [그림

13

-

9

]에 묘사된 대로, 합성곱은 특별한 종류

의 행렬 곱셈으로 표현될 수 있습니다. 가중치 행렬은 기존 신경망과 비슷하지만, 특별한 속성

이 두 가지 있습니다.

1

회색으로 표시된

0

은 학습될 수 없는 영역입니다. 즉 최적화 과정 내내

0

으로 유지됩니다.

2

일부 가중치는 동일하며 학습되는 (즉 변경할 수 있는 ) 동안 동일하게 유지되어야 합니다. 이를



shared

weights

라고 합니다.

0

은 필터가 건드릴 수 없는 픽셀에 해당하며, 가중치 행렬의 각 행은 커널에 한 번씩만 적용됩

니다.

그림

13-9

행렬 곱셈으로서의 합성곱

합성곱이 무엇인지를 이해했으므로, 이제는 합성곱으로 신경망을 구축해보죠.

13.2



수많은 선 감지용 커널 중 일부만이 이미지 인식에 유용할지도 모릅니다. 더욱이 신경망 후반

계층의 합성곱 커널이 저수준의 특징들로부터 매우 복잡하게 변형됨을 목격했습니다. 하지만

이런 복잡한 변형을 수작업으로 구성할 방법은 없습니다.

그 대신 커널값 자체를 학습할 방법이 있다면 가장 좋겠죠. 그리고 우리는 ...