파이토치로 배우는 LLM & AI

447

18

장

RAG 소개

대화하는 것은 이야기가 어디로 흘러갈지에 대해 완전히 새로운 길을 제시해 주었습니다.

물론 소설에만 국한되지는 않습니다. 거의 모든 기업은 문서에 갇혀 있는 내부 지식을 가지고

있습니다. 이런 문서에 대한 질문에 답변하기 위해 사람이 읽고, 인덱싱하고, 상호 연관시키고,

이해하기에는 너무 많은 시간이 걸립니다. 텍스트를 인공적으로 이해하는

LLM

의 능력은 텍스

트에서 지식을 채굴하는 데 어떠한 것에도 비교할 수 없을 정도로 큰 도움이 됩니다.

그래서 필자는

RAG

에 매우 큰 기대를 하는 편입니다. 이 장을 마친 후에는 여러분도 그렇게

되기를 바랍니다.

18.1

RAG

란 무엇인가요?

RAG

는

retrieval

augmented

generation

의 약자로

LLM

이 훈련된 지식과 사용자가 보유

한 데이터 사이의 간극을 메워주는 역할을 합니다. 모델에 질의를 할 때 ‘

Tell

me

about

the

character

…’와 같은 프롬프트와 함께 로컬 데이터 저장소에 있는 정보도 함께 제공합니다. 예

를 들어 소설의 캐릭터에 대해 질문하는 경우 로컬 데이터는 해당 인물의 고향, 좋아하는 음식,

가치관, 말하는 방식 등이 포함될 수 있습니다. 해당 데이터를 질문과 함께

LLM

에 전달하면 상

당 부분은 훈련 세트에 포함되어 있으므로,

LLM

은 정보를 ...