실무로 통하는 LLM 애플리케이션 설계

251

7

장

고급 파인 튜닝 기법

7.4

마치며

이번 장에서는 다양한 고급 파인 튜닝 기법을 폭넓게 살펴봤습니다. 먼저, 경험 리플레이와 파

라미터 확장 같은 지속적 사전 훈련 전략을 다뤘고, 이어서 병목 어댑터, 프리픽스 튜닝, 프롬

프트 튜닝, 부분 파라미터 선택과 같은 파라미터 효율적 파인 튜닝 (

PEFT

) 기법을 살펴봤습니

다. 또한 모델 병합과 앙상블의 다양한 방식도 알아봤습니다. 아울러,

LLM

의 가중치를 업데이

트해야 하는 여러 가지 동기와 목적에 따라 어떤 방식이 적합한지도 함께 살펴봤습니다.

이전 장과 이번 장에서 반복해 강조했듯이, 파인 튜닝은 만능 해결책이 아니며, 항상 새로운 능

력을 학습하거나 새로운 지식을 효과적으로 흡수하는 것은 아닙니다.

다음 장에서는

LLM

의 주요 한계점들 (예: 조정의 어려움, 환각, 추론 능력 부족 )을 짚어보고,

이러한 문제를 완화하거나 해결하는 다양한 접근법도 살펴보겠습니다.