에이전트 시대의 AI 시스템 설계

259

4

장

지식 추가: 고급

임곗값을 조율해야 한다.

대안

자가

RAG

의 한 가지 대안은 여러 지식 공급원을 통합하는 것이다. 단일한 원샷

one

-

shot

접근법

대신 여러 소스에서 정보를 검색하는

RAG

파이프라인은 전반적으로 더 나은 응답을 반환하는

경향이 있다. 애플리케이션에 따라서는 지식 공급원의 통합이

LLM

의 매개변수적 정보

parametric

information

와 검색 프로세스를 통한 비매개변수적 정보

nonparametric

information

의 결합을 의미할 수 있

고, 지식 그래프를 활용해서 응답 품질을 더 향상하는 것일 수도 있다.

또 다른 대안은 환각을 자동으로 수정하거나 엄격한 가드레일을 도입하는 대신 설명 가능성에

초점을 맞추는 것이다. 예를 들어 챗봇 서비스들은 검색된 기본 문서 청크를 신뢰도 점수

confi-

dence

score

와 함께 사용자에게 보여 주거나 시스템의 추론 과정 자체를 사용자에게 제시하는 방

법을 흔히 사용한다. 또한, 생성된 응답과 함께 인용된 출처를 나란히 볼 수 있는 대화형

UI

를

제공하기도 한다.

4.3.5

참고문헌

견고한 도메인 이탈

out

-

of

-

domain

탐지 메커니즘과 일반적인 가드레일을 구현하는 데에는

Guard

rails

AI

가 제공하는 상세한 문서 (

https

://

www

.

guardrailsai

.

com

/

docs

)가 큰 도움이 될

것이다. 특히 임베딩 거리 계산과 제로샷 분류 방법에 관한 접근법을 눈여겨 볼 필요가 있다.

한편 오픈

AI

쿡북

OpenAI

Cookbook ...