실무로 통하는 LLM 애플리케이션 설계

297

10

장

LLM과 외부 도구의 인터페이스

CHAPTER

10

LLM

과 외부 도구의 인터페이스

1

부와

2

부에서는

LLM

이 단독으로도 얼마나 다양한 작업을 효과적으로 수행하는지를 살펴봤

습니다. 그러나 조직 차원에서 이러한 모델의 역량을 온전히 활용하려면 기존의 데이터와 소프

트웨어 생태계 안에

LLM

을 통합하는 과정이 필요합니다. 전통적인 소프트웨어 시스템과 달리,

LLM

은 생태계의 다른 구성 요소들과 상호작용하기 위해 자율적으로 동작을 생성할 수 있습니

다. 이는 기존 소프트웨어에서는 볼 수 없었던 유연성을 제공합니다. 이 덕분에 불가능하다고

여겨지던 다양한 활용 사례들이 새롭게 가능해지고 있습니다.

또한 현재의

LLM

에는 여전히 여러 한계가 있으므로

LLM

을 외부 소프트웨어 및 데이터와 연

동해야 합니다.

1

장에서 일부 논의한 내용을 요약하면 다음과 같습니다.

●

LLM

을 새롭게 훈련하거나 지속적으로 업데이트하는 데는 비용이 많이 들기 때문에 모델에는 지식이 반영된

기준 시점이 존재하며, 그 이후의 사건이나 정보는 알지 못합니다.

●

시간이 지날수록 개선되기는 하지만,

LLM

은 여전히 수학 계산에서 오류를 범할 수 있습니다.

●

출력 결과의 사실성을 보장하거나 근거가 되는 출처를 정확히 제시하기는 어렵습니다.

●

사용자 고유의 데이터를 모델에 효과적으로 ...