에이전트 시대의 AI 시스템 설계

102

에이전트 시대의 AI 시스템 설계

response = agent.run_sync(paragraph)

return response.output

이 프레임워크에서

response

.

output

은 파이썬 데이터 객체이다.

다음과 같은 텍스트를 입력한다고 하자.

공항까지 택시 탑승에 대한 환급을 요청합니다. 32.30달러를 지불했습니다.

그러면 다음과 같은 객체가 반환될 것이다.

Invoice(purpose='공항까지 택시 탑승', amount=32.3,

currency=<CurrencyEnum.USD: 'USD'>)

문법 패턴 덕분에

Invoice

객체를 얻는 것이 보장된다.

TIP

형식 준수를 간청하지 말 것

LLM

에게 특정 형식으로 생성하도록 ‘간청’하는 것은 안티패턴이다. 다음과 같은 프롬프트로

LLM

이 출력 형

식을 준수하기를 바라지 말자.

제발 추가적인 포맷이나 장황한 설명을 추가하지 마. 그냥 "YES" 또는 "NO"로만 답

해. 반드시 모두 대문자를 사용해!

대신 문법 패턴을 적용해서 형식을 준수하게 하는 것이 바람직하다.

from typing import Literal

agent = Agent(model,

result_type=Literal["YES", "NO"])

2.2.4

고려사항

문법

패턴은 제약사항을 메타구문의 형태로 지정함으로써 모델이 항상 해당 ...