
166
에이전트 시대의 AI 시스템 설계
색기
retriever
가 문서 저장소에서 유관 청크들, 즉 질문과 관련성이 높은 청크들을 찾는다. 생성
단계에서는 이 유관 청크들로 이루어진 컨텍스트와 사용자 질문을 합친 프롬프트를 모델에 제
출한다. 그러면 모델은 신뢰할 수 있는 지식 공급원에서 가져온 유관 정보로 그라운딩된 응답
을 생성하게 된다. 모델의 응답은 생성된 텍스트와 그 텍스트의 생성에 사용된 유관 청크 정보
로 구성된다.
그럼 이 단계들이 어떻게 작동하는지를 예제 코드와 함께 좀 더 구체적으로 살펴보자. 실제 프
로덕션 환경의
RAG
는 여기서 설명하는 것보다 훨씬 더 정교하다는 점을 염두에 두고 읽어 나
가기 바란다.
색인화
색인화 파이프라인의 역할은 원하는 정보를 효율적으로 검색할 수 있도록 지식 공급원 문서를
색인화하는 것이다. 검색 결과는 문서 전체가 아니라 문서의 일부인 청크여야 한다. 따라서 문
서 전체를 색인화하는 것이 아니라 문서를 적절한 크기의 청크로 분할하고 그 청크들을 색인화
해야 한다. 청크들은 검색기가 검색할 수 있도록 영구 저장소
persistent
store
에 저장된다.
여기서는 라마인덱스
LlamaIndex
프레임워크 (
https
://
www
.
llamaindex
.
ai
)를 사용하겠다. 다
음은 라마인덱스를 이용해서 텍스트 데이터를 문서 객체 ...