에이전트 시대의 AI 시스템 설계

397

6

장

신뢰성 개선

6.4.4

고려사항

LLM

이나 기타 의존성의 변경에 따라 애플리케이션을 좀 더 쉽게 갱신하고자 할 때 사용할 수

있는 간단한 방법 하나는

프롬프트 라이브러리

prompt

library

를 사용하는 것이다. 모든 프롬프트를

설정 파일로 외부화해 두면, 상황이 변했을 때 프롬프트를 변경하기 쉬워진다. 하지만 이러한

종류의

프롬프트 관리

prompt

management

접근법은 핵심 문제를 해결하지 못한다. 핵심 문제란, 의

존성이 변경될 때마다 여전히 수동으로 실행하고 시험해야 한다는 것이다. 프롬프트 관리와 버

전 관리는 좋은 관행인 것은 사실이지만, 이 책에서 이들을 유효한 생성형

AI

설계 패턴으로 간

주하지는 않는다. 이번 절의 프롬프트 최적화 패턴이 더 포괄적인 해법을 제공하기 때문이다.

통상적인 프롬프트 관리 접근법을 확장해서, 시도한 모든 다양한 프롬프트 반복을 저장한 다음

프레임워크가 다음 버전의

LLM

에서 해당 단계를 반복하게 할 수도 있다. 그런 다음 결과를 사람

이 검토하거나 또는 자동 평가기를 사용해서 가장 좋은 프롬프트를 선택하는 식이다. 하지만 애

플리케이션이 변경됨에 따라 (예: 변수 추가 또는 제거 ) 오래된 프롬프트들을 갱신해야 한다는

문제는 여전히 남는다. 반면에 이번 절의 프롬프트 최적화는 유지보수하기가 훨씬 덜 번거롭다.

이번 절에서 보았듯이 프롬프트 최적화 패턴은 의존성이 변경될 때마다 시도 반복 또는 부트스

트랩 접근법을 이용해서 체계적으로 프롬프트를 갱신한다. 그런데 이번 절에서 ...