281
9
장
검증 및 측정
예를 들어 진행 중인 고객 지원 에이전트의 ‘깨진 머그컵’ 시나리오에서 응집성은 환불을 확정
할 때 초기 파손 신고와 사진 업로드를 참조하고 다품목 주문 세부정보를 놓치지 않는 것을 의
미합니다 (예:
order
_
id
A89268
에서 머그컵만 환불하고 다른 품목은 무시하는 실수 방지 ). 더
복잡한 경우, 환불 후 변경 요청이 이어지는 상황(
modify
_
2
)에서는 대화 이력에 모순을 만들
지 않고 주소 변경을 확인하며 논리적 흐름을 유지해야 합니다.
응집성 테스트는 장기 상호작용을 시뮬레이션해 에이전트가 상태에 대한 일관된 이해를 유지
하는지 행동이 논리적이며 목표 지향적 순서를 따르는지 검증합니다. 상충되는 권고나 의존성
누락 같은 모순이나 누락은 응집성 실패로 표시합니다. 예를 들어 고객 서비스에서는 응집성
테스트로 에이전트의 응답이 사용자 질문을 논리적으로 해결하고 전문적이며 모호하지 않은
커뮤니케이션을 유지하는지 확인합니다.
결국 응집성 테스트는 실환경에서 에이전트 기반 시스템의 신뢰, 사용성, 실질적 가치를 유지
하는 데 필수입니다. 논리적 흐름, 컨텍스트 보존, 모순 회피를 엄격히 평가함으로써 작업이 복
잡해지거나 세션 길이가 늘어나도 에이전트가 안정적으로 작동하도록 관리합니다.
9.3.4
할루시네이션
AI
시스템에서 할루시네이션
hallucination
은 에이전트가 틀렸거나 의미가 없거나 지어낸 정보를 생
성할 때 발생합니다. 이는 지식 조회, 의사결정, 사용자 상호작용을 목적으로 설계된 시스템에
서 특히 ...