
405
16
장
사용자 정의 데이터와 함께 LLM 사용하기
logging_dir='./logs',
logging_steps=500,
evaluation_strategy="epoch",
save_strategy="epoch",
load_best_model_at_end=True,
metric_for_best_model="accuracy",
push_to_hub=False,
gradient_accumulation_steps=4,
gradient_checkpointing=True,
report_to="none",
fp16=True
)
하이퍼파라미터를 조정하면 다른 결과를 얻을 수 있습니다. 옵티마이저에 대해 앞서 언급한 것
외에도 배치 크기를 고려해야 합니다. 훈련이나 평가에 다른 배치 크기를 지정할 수 있습니다.
매우 유용한 매개변수 중 하나는 (여기에서처럼
3
번 에폭보다 길게 훈련하는 경우 )
load
_
best
_
model
_
at
_
end
입니다. 마지막 체크포인트를 사용하는 것이 아니라 지정된 메트릭 (이 경
우 정확도 )에 따라 최상의 체크포인트를 추적하여 훈련이 완료된 후 해당 체크포인트를 로드
합니다.
evaluation
_
strategy
와
save
_
strategy
를
epoch
으로 설정했기 때문에 에폭이 끝
날 때마다 해당 작업을 수행합니다. ...