실무로 통하는 LLM 애플리케이션 설계

361

12

장

검색 증강 생성(RAG)

여주도록 학습 순서를 조정하면 기억 확률을 높일 수 있다고 설명했습니다.

그리고 이 장 전반에서 다룰

RAG

는 이러한 롱테일 개념에 대해

LLM

의 응답 성능을 향상하는

매우 효과적인 대안이 됩니다.

연습 문제 ●●●

대부분의

LLM

은 고품질 데이터셋으로 간주하는 위키백과를 훈련 데이터로 활용했습니다. 위키

백과에는 하위 리그 축구 선수와 같이 잘 알려지지 않은 인물에 관한 페이지도 있습니다. 이렇게

덜 알려진 인물 중 위키백과 페이지가 있는 사람을 골라 해당 페이지에 답이 있는 질문을

LLM

에

해 보세요.

이 과정을 다양한 크기의

LLM

에서 반복해 보세요. 이어서, 더 잘 알려진 인물들에 관해서도 동

일하게 질문해 보세요(참고로 위키백과 페이지의 분량은 인물 인지도의 간접 지표가 될 수 있습

니다). 질문에 대한 응답 능력에

LLM

의 크기가 영향을 미치는지를 확인해 보세요.

12.2

대표적인

RAG

활용 시나리오

RAG

이

왜

필요한지 살펴봤으니, 이제는 실제로

RAG

를

어디에

활용할 수 있는지를 알아보겠

습니다. 대표적인 활용 시나리오는 다음 네 가지입니다.

외부 지식 검색

가장 일반적이고 실무에서 가장 성공적으로 활용되는 사례입니다. 앞서 설명했듯이,

RAG

는

LLM

의 지식 공

백을 메우거나 환각 현상의 위험을 줄이는 데