실무로 통하는 LLM 애플리케이션 설계

395

12

장

검색 증강 생성(RAG)

예시 풀

x4

,

y4

x3

,

y3

x2

,

y2

x1

,

y1

순위가 매겨진

후보 예시

LLM

-

R

i

보상 모델

LLM

-

R

i

+

1

반복 학습

증류

그림

12-9

LLM

-

R

워크플로

12.7

모델 훈련에

RAG

활용하기

지금까지는

RAG

가

LLM

의 추론 과정에서 어떻게 활용되는지 살펴봤습니다. 그렇다면 모델의

사전 훈련이나 파인 튜닝 과정에서도

RAG

를 사용할 수 있을까요? 네, 가능합니다.

이 주제는 상대적으로 주목받지 못했지만, 앞으로 더 많은

LLM

이 이를 활용하게 될 것으로 예

상됩니다. 이제 대표적인 사례를 하나 살펴보겠습니다.

REALM

Retrieval

-

Augmented

Language

Model

은

RAG

영역에서 선도적인 연구 중 하나입니다.

REALM

은

검색과 생성 작업을 하나의 통합된 모델 안에 구성한 구조입니다.

[그림

12

-

10

]은

REALM

의 사전 훈련과 파인 튜닝 과정을 보여줍니다.

396

3

부

LLM 애플리케이션 활용 패러다임

모자 속의

[

MASK

]

신경망 지식 검색기 지식 증강 인코더

[

MASK

]

= 고양이

사전 훈련 말뭉치 지식 베이스

세포의 발전소는