실무로 통하는 LLM 애플리케이션 설계

203

6

장

파인 튜닝

파인 튜닝

6

CHAPTER

이전 장에서는 특정 목적에 맞는

LLM

을 선택할 때 고려해야 할 다양한 요소를 살펴봤고 정보

에 기반한 판단을 내릴 수 있도록

LLM

을 평가하는 방법도 함께 다뤘습니다. 이제는

LLM

을 실

제 과제 해결에 활용해 보겠습니다.

이번 장에서는 관심 있는 과제를 해결하기 위해

LLM

을 조정하는 과정인 파인 튜닝을 살펴봅니

다. 하나의 예제로 파인 튜닝의 전체 과정을 단계별로 설명하며, 그 과정에서 반드시 고려해야

할 주요 결정 사항들을 짚어볼 것입니다. 또한 파인 튜닝을 효과적으로 하려면 어떤 방식으로

학습 데이터셋을 설계하고 구축해야 하는지도 함께 논의합니다.

6.1

파인 튜닝의 필요성

그렇다면 왜

LLM

을 파인 튜닝해야 할까요? 사전 훈련된

LLM

에 몇 가지 예시만 제공하는 퓨샷

방식만으로는 충분하지 않은 걸까요? 두 가지 사례를 살펴보며 이를 이해해 보겠습니다.

사례

1

텍스트에서 과거 시제로 작성된 모든 문장을 찾아 미래 시제로 바꾸는 다소 독특한 과제를 수행한다고 가정

해 봅시다. 이 작업을 해결하기 위해 과거 시제 문장과 이에 대응하는 미래 시제 문장을 입력

-

출력 쌍으로

몇 가지 제공했습니다. 하지만 모델은 문장을 정확히 식별하지 못하거나 시제를 올바르게 바꾸지 못하는 등

기대만큼의 성능을 보여주지 않습니다. 이에 ...