
386
에이전트 시대의 AI 시스템 설계
이 개념을 잘 모르는 경우가 많다. 이 글을 쓰는 현재 생성형
AI
프레임워크 중 의존성 주입을
기본적으로 지원하는 것은 없다.
5
(에이전트 자체가 아니라 ) 에이전트를 위한 프롬프트와 도
구에 대해 의존성 주입을 지원하는 (
https
://
oreil
.
ly
/
Vi8DR
) 파이댄틱이 그나마 제일 근
접하다고 할 수 있다. 앞으로는 상황이 개선되길 바랄 뿐이다.
6.4
패턴
20
: 프롬프트 최적화
생성형
AI
파이프라인의 의존성이 바뀌면 파이프라인에 쓰이는 프롬프트들로 갱신해야 한다.
그런 상황에서 프롬프트들을 체계적으로 갱신하는 한 방법으로
프롬프트 최적화
Prompt
Optimization
패턴이 있다. 이 패턴은 프롬프트들을 예시 데이터셋에 대해 최적화한다.
6.4.1
문제
생성형
AI
애플리케이션을 만들다 보면 다양한 시행착오를 겪기 마련이다. 기초 모델에 입력되
는 것은 대개 텍스트 프롬프트이므로, 애플리케이션의 성능이나 성과를 개선하기 위해 제일 먼
저 시도하는 것은 프롬프트 엔지니어링 혹은 프롬프트 변경이다. 예를 들어 프롬프트를 더 자
세하게 만들거나, 몇 가지 예시를 추가하거나, 지시사항의 순서를 재배치하는 등으로 프롬프트
를 변경해 나가게 된다.
그런데 기초 모델이 바뀌면 (모델 제공업체가 새 버전을 출시하는