위해 출처 정보 포매팅 함수는 따로 제시하지 않겠다. 전체 예제 코드가 원서 깃허브 저장소
(
https
://
oreil
.
ly
/
gKk9d
)에 있으니 참고하기 바란다.
NOTE
_
깃허브 저장소에는 프롬프트 기반 출처 정보 예제(
https
://
oreil
.
ly
/
ULjWa
)도 있으니 참고하
면 좋을 것이다. 이 방식은 구현이 더 간단한 대신에 몇 가지 단점이 있다. 가장 큰 단점은 생성된 주장을 문서
저장소와 다시 대조해서 확인하지 않는다는 점과 출처 정보 포매팅을 세밀하게 제어할 수 없다는 점이다.
4.3.4
고려사항
자가
RAG
처럼 좀 더 정교한 구현은 파이프라인이 더 복잡하고 장애 지점
failure
point
도 더 많다.
또한 엔지니어링 노력과 컴퓨팅 자원도 더 많이 필요하다.
RAG
시스템에 도구를 추가할 때마
다 응답 시간이 늘어나고 궁극적으로
UX
에 영향을 미치므로, 장단점을 신중하게 평가하고 더
간단한 대안은 없는지 고려해야 한다.
한계
RAG
는 쿼리와 선택된 문서 청크를 비교하기 위해 유사도 점수
similarity
score
에 크게 의존한다. 또
한 문서 청크의 유관성을 판단할 때 임의의 임곗값을 사용하는데, 이러한 임곗값은 특정 도메
인에 매우 종속적이다. 따라서 시간이 지남에 따라 임곗값을 세심하게 조율하고 갱신해야 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.