에이전트 시대의 AI 시스템 설계

253

4

장

지식 추가: 고급

LLM

과의 상호작용 패턴을 세심하게 설계해서 사용자가

RAG

프로세스를 적절히 제어할 수 있

게 하는 것도 시스템에 대한 신뢰도를 크게 높이는 방법이다. 사용자가 검색 매개변수들을 조

정할 수 있게 하고, 날짜나 출처의 신뢰도로 결과를 필터링해서 사용자에게 제공하고, 이전 응

답을 바탕으로 사용자가 질문을 좀 더 구체화할 수 있게 하면,

RAG

시스템과의 상호작용 경

험이 일방적인 정보 전달이 아닌 협업의 수준으로 높아진다.

점진적 공개

progressive

disclosure

기법,

즉 먼저 단순화된 결과를 보여 주고 더 깊이 탐색할 수 있는 옵션을 제공하는 방식은 정보가 너

무 많아서 사용자가 압도되는 느낌을 가지지 않게 하면서도 내용의 깊이를 유지하는 데 도움이

된다.

피드백 메커니즘

feedback

mechanism

도 중요하다. ‘좋아요/싫어요’ 버튼, 수정 기능, 사용자 입력을 바

탕으로 시스템이 개선되는 모습을 시각적으로 보여 주는 것 등이 여기에 해당한다. 이런 장치

는 시스템이 정확성과 사용자 경험(

UX

)을 중요하게 생각한다는 점을 보여 준다. 사용자의 피

드백이 반영되어 답변이 개선되는 것을 보여 주면 사용자는 시스템이 지속적으로 개선되고 신

뢰성을 높이려 노력한다고 믿게 된다.

4.3.3

예제

‘해법’ 절(§

4

.

3

.

2

)에서 논의한 아이디어 중에서

RAG

시스템이 생성한 답변에 대한 사용자 신

뢰를 구축하는 데 가장 효과적인 방법은 답변 자체에 출처 정보를 포함하는 것이다. 이번 예제

는 분류기를 ...