fastai와 파이토치가 만나 꽃피운 딥러닝

579

14



ResNets

결과가 훌륭하네요! 이번에는 여러분이 직접 믹스업을 추가하고, 약

100

번의 에포크 동안 학

습을 진행해보세요. 밑바닥부터 학습된 매우 정확한 이미지 분류 모델을 얻을 것입니다.

여기서 본 병목 구조는 일반적으로

ResNet

-

50

, -

101

, -

152

모델에서만 사용합니다.

ResNet

-

18

과 -

34

모델은 보통 병목 구조를 사용하지 않죠. 그러나 저희는 병목 계층이 일반

적으로 얕은 신경망에서도 잘 작동한다는 사실을 알게 되었습니다. 이는 논문의 한 부분에서

소개한 구조가 가장 좋은 선택이 아님에도 불구하고, 수년간 의심 없이 사용하는 경향을 보여

주는 사례입니다. 가정과 ‘모두가 아는 것’에 의문을 제기하는 일은 언제나 좋은 자세입니다. 딥

러닝은 여전히 새로운 분야이고, 세부 사항이 모두 잘 연구되지는 않았기 때문입니다.

14.3



지금까지 더 깊은 모델을 학습할 수 있도록 스킵 연결을 사용한 영상 처리용 모델의 구축 방식

을 살펴보았습니다. 더 나은 구조를 연구하는 수많은 노력이 있었지만, 대부분 신경망의 입력

에서 출력으로의 직통 경로를 형성하는 데 스킵 연결 기법을 약간 수정해서 사용합니다. 한편

전이 학습에서 사용되는

ResNet

은 사전 학습된 모델입니다.

15

장에서는 우리가 지금껏 사용

한 사전 학습된 모델이 만들어지는 방식을 이해하는 데 필요한 마지막 세부 사항을 살펴봅니다.

14.4



1

앞 장의

MNIST

에 사용된

CNN

의 최종 출력에서는 어떻게 단일 활성 벡터를 얻었나요? 단일 활성 ...