AI 에이전트 엔지니어링

167

6

장

지식과 메모리

그림

6-2

RAG

런타임 워크플로: 사용자가 컨트롤러에 질문을 제출하면 컨트롤러는 벡터 기반 지식 스토어를 조회해

가장 관련성 높은 정보를 검색합니다. 이렇게 검색된 컨텍스트는 원래 사용자 질문과 결합되어 생성 모델에 전달되고 모

델은 컨텍스트를 반영한 최종 응답을 생성합니다.

RAG

는 검색 기반 기법과 생성 모델을 결합해 에이전틱 시스템의 능력을 강화하는 강력한 접

근 방식입니다. 외부 지식을 활용해 생성 과정에 통합함으로써

RAG

는 더 정보에 기반하고 더

정확하며 컨텍스트적으로 더 적절한 응답을 만들어 냅니다. 기술이 계속 발전함에 따라

RAG

는 다양한 도메인에서

LLM

기반 애플리케이션의 성능과 활용 범위를 확장하는 데 중요한 역할

을 하게 될 것입니다. 특히 도메인 또는 회사 고유의 정보나 정책을 반영해 출력 결과에 영향을

주는 데 매우 유용합니다.

6.2.4

시맨틱 경험 메모리

시맨틱 스토어를 통해 외부 지식 베이스를 통합하는 것은 에이전트에 외부 지식을 주입하는 효

과적인 방법입니다. 그러나 이 방식만으로는 에이전트가 매 세션을 ‘백지 상태’에서 시작하게

되고 장기 실행되거나 복잡한 작업의 컨텍스트가 점차 컨텍스트 윈도 밖으로 밀려나 사라지게

됩니다. 시맨틱 경험 메모리

semantic

experience

memory

는 ...