그림으로 배우는 생성형 AI

2214

장 에이전트형 시스템 구축

이상이 기본적인

RAG

시스템의 구조입니다

.

그럼 이

시스템을 좀 더 개선하는 방안 몇 가지를 살펴봅시다

.

4.5.4 기본 RAG의 개선 사항

이번 절에서는 기본

RAG

를 개선하는 세 가지 방법을

살펴봅니다

(

그림

4

-

16

).

그중 두 가지는 생성

(

가상

답변 및 재순위화

)

과 관련이 있고 다른 하나는 색인화

와 관련이 있습니다

.

가상 답변

RAG

를 위해 벡터 저장소를 검색할 때는 질문 텍스트

(“

상부 리아스 지층에서 흔히 발견되는 암석은

?”)

의

임베딩과 정답이 들어 있을 만한 문서 조각의 임베딩

을 부합

matching

하는 과정이 진행됩니다

.

다행히 교과

서에

“

상부 리아스기에서 발견되는 암석은

A

,

B

,

C

입니다

”

와 같은 문장이 딱 들어 있다면 이런 방법이

잘 작동하겠지만

,

안타깝게도 교과서가

FAQ

모음집

은 아닙니다

.

책의 여기저기에 흩어져 있는 문장들을

모아야 비로소 그럴듯한 답변을 얻을 수 있는 경우가

더 많습니다

.

이 문제를 해결하는 한 가지 방법은 질문 자체와 유사

한 청크들을 책에서 찾는 대신 질문에 대한 가상의 답

변

hypothetical

answer

을 생성한 다음 그 가상 답변과 가장

유사한 청크를 찾는 것입니다

.

비록 그 가상 답변이

잘못된 답이라고 해도

,

질문 자체를 검색하는 것보다

더 나은 결과를 얻을 가능성이 ...