실무로 통하는 LLM 애플리케이션 설계

359

12

장

검색 증강 생성(RAG)

CHAPTER

12

검색 증강 생성(

RAG

)

10

장에서는

LLM

을 외부 데이터나 소프트웨어와 연결해 기능을 획기적으로 확장하는 방법을

살펴봤습니다. 이어서

11

장에서는 임베딩 기반 검색이라는 개념을 소개했는데, 이는 질의에

대한 응답으로 데이터 저장소에서 관련 데이터를 검색하는 핵심 기술입니다. 이제 이러한 배경

지식을 바탕으로

LLM

에 외부 데이터를 통합하는 응용 패러다임인 검색 증강 생성 (이하

RAG

)

을 폭넓게 살펴보겠습니다.

이번 장에서는

RAG

애플리케이션의 전형적인 워크플로를 구성하는 각 단계를 깊이 있게 다루

며,

RAG

파이프라인 전반을 종합적으로 이해하고자 합니다. 또한 어떤 데이터를 검색할 수 있

으며, 어떻게 검색하고, 언제 검색할지를 포함해

RAG

를 실용화하는 데 필요한 다양한 의사결

정을 살펴볼 것입니다.

RAG

가 모델 추론 단계뿐만 아니라 모델 훈련과 파인 튜닝 과정에서도

어떻게 도움이 되는지를 강조하고, 다른 패러다임과 비교했을 때

RAG

가 특히 유리한 상황과

그렇지 않은 상황을 함께 고찰할 것입니다.

12.1

RAG

의 필요성

10

장에서 소개했듯이,

RAG

는 외부 데이터 소스를 사용해

LLM

의 기능을 증강하는 다양한 기

법을 설명하는 포괄적인 용어입니다.

RAG

를 사용하는 이유는 다음과 같습니다.

360 ...