실무로 통하는 LLM 애플리케이션 설계

362

3

부

LLM 애플리케이션 활용 패러다임

에서 검색해 사용할 수 있습니다.

도구 관련 정보 검색

10

장에서 설명했듯이,

LLM

은 워크플로의 일환으로 소프트웨어 도구를 호출할 수 있습니다. 사용 가능한 도

구 목록과 설명은 도구 저장소

tool

store

에 저장되며,

LLM

은 검색을 통해 해당 작업에 가장 적합한 도구를 선택

할 수 있습니다. 여기에 포함되는 정보로는

API

문서 등이 있을 수 있습니다.

12.3

검색 여부 판단하기

에이전트 워크플로의 각 단계에서

LLM

은 다음 단계 중 하나를 사용해 작업을 진행할 수 있습

니다.

●

내부 기능 사용

●

여러 데이터 저장소 중에서 선택

●

여러 소프트웨어 도구 중에서 선택

LLM

이 파라미터 메모리만을 사용해 완전히 해결할 수 있는 작업이 있지만, 하나 이상의 데이

터 저장소에도 이를 해결하는 데 필요한 데이터가 포함되었을 수 있습니다. 이럴 때는 앞서 제

시한

RAG

의 모든 이점을 고려해

RAG

를 기본적으로 사용해야 할까요?

앞서 살펴봤듯이

LLM

은 롱테일 정보에서 어려움을 겪는 경향이 있으며,

RAG

가 롱테일 엔티

티에 관한 질문에 답하는 효과적인 수단이 될 수 있습니다. 하지만 말렌

Mallen

연구진

3

은 인기 있

는 엔티티에 관한 질의에는

LLM

이

RAG

보다 더 잘 답할 때도 있다고 지적합니다. 이는 관련

없거나 ...