실무로 통하는 LLM 애플리케이션 설계

209

6

장

파인 튜닝

학습률 스케줄

훈련이 진행되어 모델이 수렴에 가까워질수록 학습률을 점차 낮추는 것이 바람직합니다. 최적

화가 거의 완료된 시점에 학습률이 너무 크면 모델이 최적점을 지나쳐버릴 수 있기 때문입니

다. 마찬가지로, 훈련 초반에 학습률이 너무 높으면 모델이 처음 몇 개 배치에서 지나치게 학습

해 성능이 불안정해질 수 있습니다.

이러한 문제를 방지하려면 훈련 진행 상황에 따라 학습률을 자동으로 조정할 수 있도록 학습률

스케줄러를 활용하는 것이 좋습니다.

허깅 페이스는 다양한 스케줄러를 지원합니다. 그중 주요한 몇 가지는 다음과 같습니다.

상수 스케줄

가장 기본적인 스케줄 방식으로, 훈련 전체 기간의 학습률이 일정하게 유지됩니다.

워밍업이 있는 상수 스케줄

이 설정에서는 학습률이

0

에서 시작해 워밍업 단계 동안 지정된 학습률까지 선형적으로 증가합니다. 워밍업

단계가 끝나면 학습률은 일정하게 유지됩니다.

[그림

6

-

1

]은 워밍업이 있는 상수 스케줄러를 사용할 때 시간에 따른 학습률 변화를 보여줍니다.

단계

워밍업이 있는 상수 스케줄

학습률

학습률

그림

6-1

워밍업이 있는 상수 스케줄의 학습률 변화

코사인

코사인 어닐링

cosine

annealing

이라고도 하는 이 설정에서는 학습률이 워밍업 단계 후 코사인 함수에 따라 천천히

0

으로 감소합니다. [그림

6

-

2

]는