실무로 통하는 LLM 애플리케이션 설계

310

3

부

LLM 애플리케이션 활용 패러다임

가지 방법은 도구 목록 (도구의 이름과 간단한 설명 )을 시스템 프롬프트를 통해

LLM

에 제공하

는 것입니다.

다음으로

LLM

이 워크플로의 적절한 시점에 올바른 도구를 선택할 수 있어야 합니다. 예를 들

어 작업의 다음 단계가 오늘 저녁 시카고의 날씨를 찾는 것이라면, 위키백과가 아닌 웹 검색 도

구를 호출해야 합니다. 이 장의 후반부에서는

LLM

이 적절한 도구를 선택하게 돕는 여러 기법

을 소개할 예정입니다.

내부적으로 도구 호출은 보통

LLM

이 도구 호출 모드로 진입함을 나타내는 특수 토큰과 함께

호출될 도구 함수와 인수를 나타내는 토큰을 생성함으로써 이루어집니다. 실제 도구 호출은 에

이전트 오케스트레이션 프레임워크에서 수행합니다.

랭체인에서는

LLM

이 도구를 사용할 수 있게 설정하고 이를 호출할 수 있습니다.

from langchain.agents import initialize_agent, Tool

from langchain.agents import AgentType

from langchain_community.tools import DuckDuckGoSearchRun

from langchain_openai import ChatOpenAI

from langchain_core.messages import HumanMessage ...