321
11
장
개선 루프
11.1.3
프롬프트와 도구 정제
피드백 파이프라인과 인간 개입 리뷰로 실행 가능한 인사이트가 도출되면 다음 단계는 표적 개
선을 구현하는 일입니다. 에이전틱 시스템에서 시스템 정제를 위한 가장 직접적이고 영향력 있
는 지렛대는 프롬프트 (언어 모델에 제공하는 지시와 컨텍스트)의 설계와 외부 도구 (에이전트
가 사용할 함수,
API
, 액션 )의 구성 및 호출입니다. 따라서 프롬프트를 정제하는 것은 전체 성
능을 높이는 매우 효율적인 방법이 될 수 있습니다.
프롬프트 정제
프롬프트는 사용자 의도와 에이전트 행동을 잇는 다리입니다. 프롬프트의 문구, 구조, 컨텍스
트를 미세하게 바꾸는 것만으로도 에이전트의 해석, 추론, 출력이 극적으로 달라질 수 있습니
다. 피드백 루프는 보통 다음과 같은 문제를 보여 줍니다.
지시가 모호해 응답이 일관성 없거나 무관해짐
과도하게 광범위한 프롬프트가 할루시네이션이나 엉뚱한 출력 유발
지나치게 경직되고 좁은 프롬프트가 현실 세계 변이에 일반화 실패
작업 경계, 전달, 에러 처리에 대한 명확성 부족
정제는 분석에서 시작합니다. 빗나간 사례를 리뷰하고 에이전트의 추론을 추적하며 바람직
하지 않은 결과에 기여한 프롬프트의 부분을 분리합니다. 개선 방법은 예를 들어 다음과 같습
니다.
명료성을 위한 재작성
: 지시를 더 명확히 하고 모호성을 줄이며 기대하는 응답 형식을 지정합니다.
예시 추가
: 긍정/부정 예시를 프롬프트에 제공해 에이전트 추론을 고정
anchor