실무로 통하는 LLM 애플리케이션 설계

231

7

장

고급 파인 튜닝 기법

고급 파인 튜닝 기법

7

CHAPTER

이전 장에서는 일반적인

LLM

을 파인 튜닝하는 표준적인 접근 방식을 살펴봤습니다. 하지만 실

제 환경에서는

LLM

을 업데이트하려는 목적이 다양하고, 그에 따라 적용할 수 있는 방법도 여

러 가지입니다. 이번 장에서는 고급 파인 튜닝 기법들을 소개하고 각 기법이 어떤 상황에 적합

한지 살펴보겠습니다.

LLM

의 파라미터를 왜 업데이트해야 할까요? 이전 장에서 간단히 언급했지만, 여기서 좀 더 자

세히 설명해 보겠습니다.

도메인 적응

우리가 다루는 데이터가

LLM

이 사전 훈련 과정에서 충분히 접하지 않은 특정 전문 분야에 속할 수 있습니

다. 이런 경우, 도메인 특화 데이터를 사용해 모델을 추가로 훈련시켜 성능을 향상할 수 있습니다.

작업 적응

모델이 특정 후속 작업에서 얼마나 잘 작동하는지가 중요할 수 있습니다. 이럴 때는 해당 작업에 특화된 데

이터를 활용해 지도/비지도 방식으로 모델을 훈련할 수 있습니다.

지식 업데이트

LLM

의 지식을 최신 상태로 유지하려면 새로운 데이터로 지속적으로 훈련하는 방법이 필요합니다.

행동 제어 및 유도

모델의 응답을 좀 더 의도에 맞게 조정하고 싶은 경우도 있습니다. 예를 들어 사용자의 요청을 더 정확히 따

르거나, 특정 유형의 요청을 거부하도록 설정할 수 있습니다. 이러한 목적에 ...