에이전트 시대의 AI 시스템 설계

88

에이전트 시대의 AI 시스템 설계

2.2

패턴

2

: 문법

문법

패턴은 생성된 텍스트가 따를 스타일의 규칙들을

문맥 자유 메타구문

context

-

free

metasyntax

으

로 표현할 수 있을 때 유용하다. 문맥 자유 메타구문은 문구와 문장의 허용 가능한 구조와 구

성

composition

을 서술하는 형식적인

formal

방법으로, 실제 콘텐츠에는 제약을 거의 또는 전혀 가하

지 않는다. 예를 들어 콘텐츠가 특정 데이터 스키마에 맞는지 혹은 데이터 형식인지 확인해야

하는 경우가 규칙들을 문맥 자유 메타구문으로 표현할 수 있는, 따라서 이 패턴을 적용하기에

좋은 시나리오이다.

2.2.1

문제

AI

애플리케이션에서는

LLM

이 특정 형식에 따라 텍스트를 생성해야 하는 경우가 많다. 이때

‘특정 형식’은

CSV

comma

-

separated

values

(값들이 쉼표로 분리된 목록 )처럼 간단한 것일 수도 있고

SQL

Structured

Query

Language

처럼 복잡한 것일 수도 있다. 이는 보통 생성된 텍스트를 다운스트림 애

플리케이션에 전달해야 하기 때문이다. 다운스트림 애플리케이션은 복잡한 파싱이나 검증 작업

을 일일이 거치지 않고도

LLM

의 응답을 바로 처리할 수 있어야 한다.

이를 위한 단순한 접근법 하나는, 원하는 형식을 프롬프트에 명시하거나 (“

JSON

으로 출력하

세요” ) 예시를 제공하고 (“이 예시들과 같은 구조로 출력하세요” )

LLM

이 예시에 있는 구조를

잘 따라주길 바라는 것이다. 앤트로픽 같은 일부 모델 제공업체는 이런 ...