에이전트 시대의 AI 시스템 설계

209

3

장

지식 추가: 기본

시간적 유관성 문제

단순히 날짜만으로 콘텐츠의 유관성을 판단하는 것은 오해를 낳을 수 있음을 주의해야 한다.

2020

년의 분석 자

료는 여전히 중요한 반면에

2024

년의 기술 문서는

2025

년에 이미 구식이 될 수도 있다.

도메인 적응 문제

메타데이터 필터 활용 방법은 도메인에 따라 다를 수 있다. 예를 들어 학술 논문용

RAG

시스템이라면 검색 결과

를 학술기관별로 필터링할 필요가 있지만, 고객 서비스 애플리케이션에서는 그런 필터가 아무런 의미가 없다.

이러한 한계들이 프로젝트 진행에 걸림돌이 된다면 다음 대안을 고려해 볼 수 있다.

도메인별 색인 생성

매우 큰 색인의 경우 쿼리나 전처리 (

ANN

등) 과정에서 메타데이터로 필터링하면 속도가 느려질 수 있다. 모든

콘텐츠를 하나의 색인에 추가하는 대신, 도메인별로 색인을 분할하고 각 쿼리를 해당 색인으로 라우팅하는 방법

을 고려해야 한다.

증분 색인화 구현

모든 문서의 색인을 완전히 다시 생성하는 대신 점진적으로 갱신하는 증분 색인화

incremental

indexing

도 고려해 보아

야 한다. 이 방식에서는 새 문서를 생성하거나 색인에 이미 있는 기존 문서를 수정하기만 하므로 전체 재색인에

비해 계산 부담이 적다.

문서의 생성 시점과 관계없이 의미적 관계를 기준으로 문서 관리

단순히 오래된 콘텐츠를 제거하는 대신, 의미적 관계

semantic

relationship

가 명확한지에 따라 문서들을 유지하거나 제

거하는 방법도 있다. 이렇게 하면 시스템이 시간의 흐름에