파이토치로 배우는 LLM & AI

78

1

부

모델 구축

배치 500, 손실: 0.101872, 정확도: 96.31% [32000/60000]

배치 600, 손실: 0.103130, 정확도: 96.22% [38400/60000]

배치 700, 손실: 0.103901, 정확도: 96.17% [44800/60000]

배치 800, 손실: 0.104216, 정확도: 96.15% [51200/60000]

배치 900, 손실: 0.104010, 정확도: 96.15% [57600/60000]

Done!

놀랍네요. 기존보다 훨씬 높은

96

.

15

%의 정확도를 달성했습니다.

다음과 같이 테스트 세트의 정확도는

89

.

2

%입니다.

테스트 오차:

정확도: 89.2%, 평균 손실: 0.433885

훈련 세트의 정확도는 크게 높아졌지만 테스트 세트에 대한 정확도는 조금만 향상되었습니다.

오래 훈련했기 때문에 더 높은 성능이 나오긴 했지만 항상 이러한 결과가 나오지는 않습니다.

이 신경망은 훈련 세트에서 훨씬 높은 성능을 달성했지만 월등하게 더 나은 모델은 아닙니다.

사실 정확도 차이가 더 커졌으므로 모델이 훈련 세트에 특화되었음을 보여 줍니다. 이를

과대

적합

이라고 부릅니다. 신경망을 만들 때 주의해야 할 문제이므로 나중에 이를 피할 수 있는 여

러 가지 기법을 소개합니다.

2.7

조기 종료

지금까지 훈련할 에폭 횟수를 ...