283
5
이미지 분류
5.6
이 장에서는 중요하고 실용적인 내용을 배웠습니다. 모델링에 필요한 이미지 데이터를 준비하
는 방법 (사전 크기 조절, 데이터블록 요약)과 모델을 학습시키는 방법 (학습률 발견자, 동결 해
제, 차별적 학습률, 에포크 횟수 설정, 더 깊은 구조 사용 )을 다뤘죠. 이런 도구는 더 정확한 이
미지 모델을 더 빠르게 구축하는 데 도움을 줍니다.
또한 교차 엔트로피 손실도 다뤘습니다. 많은 시간을 투자할만한 가치가 있는 부분입니다. 실
전에서 교차 엔트로피를 밑바닥에서부터 구현할 가능성은 낮습니다. 하지만 이 함수 (또는 다
음 장에서 볼 변종 )는 거의 모든 분류 모델에서 사용되므로 함수의 입력과 출력을 반드시 이해
해야 합니다. 모델 디버깅, 모델 상용화, 모델 정확도 개선을 하려면 모델의 활성과 손실을 살
펴보고 무슨 일이 일어나는지, 왜 그런 일이 일어나는지를 이해해야만 합니다. 손실 함수를 이
해하지 못하면 작업을 올바르게 수행할 수 없습니다.
교차 엔트로피가 아직 ‘와닿지’ 않더라도 걱정하지 마세요. 우선
4
장의
mnist
_
loss
를 정확히 이
해하는지 스스로 점검해보고, 이 장의 교차 엔트로피 손실 부분을 점진적으로 실행해봅시다. 각
계산이 하는 일과 그 이유를 이해하는지 스스로 점검해보세요. 여러분이 직접 정의한 간단한 텐
서를 해당 함수에 집어넣고 반환되는 결과를 확인하는 등 다양한 실험을 해보기를 바랍니다.
이 책에서 본 방법 외에도 교차 엔트로피 손실을 구현하는 방법이 있다는 점도 알아두세요.