
418
에이전트 시대의 AI 시스템 설계
답변: 오늘 밤에 비가 올 것입니다. 기온은 섭씨 20도 부근입니다.
질문:
"""
...
agent = create_react_agent(
"anthropic:claude-3-7-sonnet-latest",
client.get_tools(),
prompt = system_message
)
7.1.4
고려사항
도구 호출이 제대로 작동하려면
LLM
이 도구를 호출해야 한다고 판단해야 하며, 도구 호출을
위한 정보도 정확히 생성해야 한다. 비결정론적인
LLM
이 이를 항상 제대로 해낸다는 보장은
없다. 하지만 신뢰성을 높이는 방법이 몇 가지 있다.
MCP
는 인기 프로토콜로 자리잡았지만,
이 글을 쓰는 현재 몇 가지 한계가 존재한다. 또한, 도구 호출은 애플리케이션을 적대적 공격에
더 취약하게 만든다.
신뢰성 향상
도구 호출은 모델이 도구 호출을 위한 토큰들을 얼마나 잘 생성해 내느냐에 달려 있으므로, 명
확하고 상세한 함수 이름과 인수 설명을 제공해서 모델을 도와주어야 한다. 각 함수를 언제 사
용해야 하는지에 관한 정책 (예: 항공편을 검색할 때와 예약할 때의 구분, 검색 결과 유효 기간
등)을 시스템 프롬프트에 포함하는 것이 바람직하다. 또한
문법
패턴을 활용할 수 있도록 유효
한 입력 예시 (이를테면 항공편 코드