실무로 통하는 LLM 애플리케이션 설계

298

3

부

LLM 애플리케이션 활용 패러다임

을 선택하는 지침을 제공할 것입니다. 크게 보면

LLM

이 상호작용해야 하는 외부 개체에는 두

가지 유형이 있습니다. 데이터 저장소와 소프트웨어/모델로, 이들을 통틀어 도구라고 부릅니

다.

LLM

이

API

와 코드 인터프리터 같은 다양한 도구와 어떻게 연동하는지 살펴볼 것입니다.

LLM

통합을 크게 단순화한 랭체인과 라마인덱스

LlamaIndex

같은 라이브러리를 최대한 활용하는

방법도 소개할 예정입니다. 또한 환경과 원활히 상호작용하게 하려면 구축해야 하는 다양한 기

반 소프트웨어를 탐색할 것입니다. 나아가 자율적인 결정을 내릴 수 있는 에이전트로 배포하는

방법을 보여줌으로써 오늘날

LLM

의 가능성 한계를 확장할 것입니다.

10.1

LLM

상호작용 패러다임

어떤 작업을

LLM

이 해결하게 하고 싶다고 가정해 봅시다. 이때 취할 수 있는 방식은 다음과 같

이 여러 가지가 있습니다.

●

LLM

이 자체 파라미터에 내재된 기억과 역량만을 사용해 작업을 해결하는 방식

●

작업 해결에 필요한 모든 컨텍스트를 프롬프트에 포함해

LLM

에 제공하고,

LLM

은 해당 컨텍스트와 내재된 능

력을 활용해 해결하는 방식

●

LLM

이 해당 작업을 해결하는 데 필요한 정보나 기술을 갖추지 못했을 때,

6

~

8

장에서 설명한 파인 튜닝처럼

모델 파라미터를 업데이트해 필요한 역량과 지식을 활성화하는 방식

●

작업 해결에 어떤 컨텍스트가 필요한지 사전에 알 수 없을 때, 관련된 정보를 자동으로 검색해 프롬프트에 삽

입하는 메커니즘을 ...