에이전트 시대의 AI 시스템 설계

198

에이전트 시대의 AI 시스템 설계

3.3.1

문제

RAG

시스템을 프로덕션 환경에서 실행하다 보면 몇 가지 중대한 문제가 드러나기 시작한다.

처음에는 잘 작동하던 시스템도 적절한 유지보수 전략이 없으면 성능이 점차 저하될 수 있다.

특히 다음과 같은 문제들이 중요하다.

중의성 해소

지식 베이스가 커질수록 한 단어가 여러 가지 의미를 가질 가능성도 커진다. 예를 들어 일상 언

어에서

유체

fluid

는 거의 항상 액체를 의미한다. 하지만 물리학에서는 액체와 기체 둘 다 유체

이다. 시스템이 산소

oxygen

에 관한 질문에 답할 때 유체 관련 문서를 사용할 것인지 판단할 수

있으려면 그 문서가 물리학자를 위한 과학 논문인지 일반인을 위한 교양 기사인지 구분해야

한다.

데이터 신선도

일단 문서 저장소에 추가된 문서는 새로운 정보가 나오면서 필연적으로 구식이 된다. 콘텐츠 갱

신에 대한 체계적인 접근법이 없다면,

RAG

시스템은 점점 더 낡은 답변을 내놓게 될 것이다.

의학 질문에 대해 사용자에게 조언하는

RAG

시스템을 생각해 보자. 보건당국이 새로운 경고

를 발표하거나, 의료위원회가 복용량 권장 사항을 갱신하는 일은 항상 발생한다. 또는 새로운

바이러스 변이가 유행할 수도 있다. 예를 들어

2020

년 초 미국

CDC

(질병통제예방센터 )는 모

든 코로나

19

환자에게

10

일간의 격리 기간을 권고했다. 그러다

2021

년

12

월에 유증상 환자

만

5

일간의 격리 기간을 권고하는 새로운 지침을 내놓았고,

2024

년

2

월에 다시 지침을 갱신

해서 격리