에이전트 시대의 AI 시스템 설계

402

에이전트 시대의 AI 시스템 설계

보를 클라이언트에 돌려준다. 그러면 클라이언트 쪽의 후처리기

postprocessor

가 해당 함수 정보와

인수들을 이용해서 함수를 호출하고, 그 결과를 다시

LLM

에 보낸다.

LLM

은 그 함수 호출 결

과에 기반해서 최종 응답을 생성한다.

7.1.1

문제

기본적으로 다중 모달

LLM

은 텍스트, 이미지, 오디오, 비디오 등 다양한 형태의 콘텐츠를 생

성한다. 이것만으로도 연구 보고서 작성, 언어 번역, 코드 생성 같은 기능을 제공하기에 충분하

다. 기초 모델이 훈련 중에 습득한 내부 지식만으로 콘텐츠가 생성되는 문제는

RAG

(

2

장 및

3

장 참고 )를 이용해 새로운 지식을 주입해서 해결하면 된다.

하지만 소프트웨어는 단순한 콘텐츠 생성 외에도 수치 계산, 항공편 예약, 환불 처리 등 훨씬

다양한 일을 할 수 있다.

LLM

자체에는 그런 능력이 없다.

LLM

은 “환불이 처리되었습니다”라

는 이메일 문구를 생성할 수는 있지만, 실제로 은행 계좌에 돈이 입금되게 할 수는 없다!

더 구체적인 예를 들어 보자. “

6

월

12

일 모리셔스발 이스탄불행

TK

161

편 좌석 하나 예약해

줘” 같은 텍스트를 생성하는 것은

LLM

에게 쉬운 일이다. 하지만 단순히 텍스트를 생성하는 것

을 넘어, 터키항공이나 부킹닷컴

Booking

.

com

, 익스피디아

Expedia

같은 여행 중개사의 항공편 예약

API

를 통해

실제로 항공권을 예약

하는 것은 다른 차원의 문제이다. 이 문제를 해결하려면

LLM

이 적절한 도구 (함수,

API