실무로 통하는 LLM 애플리케이션 설계

304

3

부

LLM 애플리케이션 활용 패러다임

이처럼 놀라운 가능성을 보면 마치 기계가 세상을 지배할 수도 있을 것처럼 느껴질 수 있습니

다. 그러나 실제로는 현재의 자율형 에이전트가 할 수 있는 일에는 분명한 한계가 존재합니다.

루프에 빠져 반복되거나, 잘못된 행동을 취하거나, 스스로 오류를 안정적으로 수정하지 못하는

경우가 흔합니다. 따라서 완전한 자율성보다는 에이전트 오케스트레이션

orchestration

소프트웨어

나 인간의 개입을 통해 전반적인 흐름을 안내하는 부분적인 자율형 에이전트를 구축하는 것이

더 현실적입니다. 이 장의 나머지에서는 제한된 범위의 작업을 안정적으로 수행하는 실용적인

에이전트를 구축하는 방법에 초점을 맞추겠습니다.

10.3

에이전트 기반 워크플로

앞에서 정의한 에이전트의 개념을 바탕으로 실제 환경에서 에이전트가 어떻게 작동하는지 살

펴보겠습니다. 다음과 같은 질문을 해결해야 하는 에이전트를 예로 들어보겠습니다.

지난

10

년간 애플의 주가가 가장 낮았을 때 최고재무관리자 (

CFO

)는 누구였습니까?

이 에이전트가 이 작업을 해결하는 데 필요한 모든 정보를 가지고 있다고 가정해 봅시다. 웹,

주가 정보가 담긴

SQL

데이터베이스,

CFO

임기 정보가 포함된 지식 베이스에 접근할 수 있습

니다. 코드를 생성하고 실행할 수 있는 코드 인터프리터에 연결되어 있으며, 금융 관련

API

에

도 접근 가능합니다. 시스템 프롬프트에는

LLM

이 접근할 수 있는 모든 도구와 데이터 저장소

에 대한 세부 정보가 포함되어 있습니다.

LLM ...