267
4
장
지식 추가: 고급
최종 평가 결과에는 적어도 다음 측면들이 포함되어야 한다.
•
유관성
•
포괄성
comprehensiveness
•
정확성 및 사실적 올바름
•
일관성, 논리적 흐름 및 구성
•
출처 정보 품질
•
효율성
또한,
SQL
데이터베이스와 같은 특정 외부 도구를 사용했다면 그 용도에 맞는 지표도 포함해
야 한다.
지표 및 가중치 선택 외에, 질문과 기준 답변
reference
answer
(‘정답’ )으로 구성된 데이터셋도 만들
어야 한다. 그리고 이 기준 답변 (그리고
LLM
으로 생성한 예시 응답들)에 대한 시스템의 평가
점수가 상식적인 수준에서 납득할 만한지도 확인해야 한다. 평가자 역할을 하도록 특별히 훈
련된 모델을 사용할 수도 있다. 예를 들어 패트로너스
AI
Patronus
AI
(
https
://
www
.
patronus
.
ai
)가 그런 모델들을 제공한다.
정보 통합
심층 탐색 시스템에서 평가 다음으로 중요한 측면은 정보의 통합이다. 즉, 시스템이 여러 소스
에 대한 반복 과정에서 얻은 정보를 얼마나 잘 종합해서 일관된 결과물로 만들어 내는지 그리
고 그 과정에서 충돌과 불일치를 얼마나 잘 해결하는지를 확인해야 한다.
§
4
.
2
“패턴
10
, 노드 후처리”에서 논의했듯이, 종합 단계에서는 문서 간 동일 개체 식별
cross
-
document
entity
resolution
을 수행해야 한다. 이는 문서들이 동일한 개체를 동일한 이름으로 지칭하는
지 확인하는 것을 말한다. 또한 종합 단계에서는 중의적인 개체를 식별하는 것 ...