에이전트 시대의 AI 시스템 설계

206

에이전트 시대의 AI 시스템 설계

•

애플리케이션에 최신 세계 지식이 필요할 때. 최신 모델일수록 지식 단절 날짜가 더 최근이므로 좀 더 최

신의 사건이나 새로운 용어를 알고 있을 것이다.

RAG

시스템 구축에서 임베딩 모델의 선택은 매우 중요하다. 이 선택이

RAG

애플리케이션의

장기적인 유지보수성에 큰 영향을 미치기 때문이다. 그러므로 모델을 선택하기 전에 모든 옵션

을 신중하게 고려해야 한다.

3.3.3

예제

메타데이터를 기반으로

RAG

색인을 사전 필터링

prefiltering

하면 응답 정확도를 크게 향상할 수

있다. 메타데이터 필터링을 사용하면 특정 문서 도메인, 생성 날짜, 문서 출처 등으로 결과를

필터링하는 것이 가능하다.

문서 청크 주변에 정형 데이터가 있다고 가정해 보자. 그런 경우 다음과 같이 각 청크에 원본

문서의 메타데이터 (생성 날짜, 출처 등 )를 첨부해야 한다.

documents = [

{'id': 1,

'text': '...',

'source': 'New York Times',

'created_at': '2025-01-01'

},

...

]

임베딩 외에, 임베딩된 문서 청크와 연관된 메타데이터를 담을 딕셔너리

dictionary

객체들의 목록

이 필요하다. 딕셔너리 목록을 준비한 후에는 그것을 이용해서 임베딩과 메타데이터가 함께 ...