실무로 통하는 LLM 애플리케이션 설계

30

1

부

LLM의 구성 요소

활용 사례를 소개하며 강점과 한계도 함께 논의합니다.

LLM

과 효과적으로 상호작용하는 프롬

프트 작성법을 살펴보고 사용자 인터페이스나

API

로

LLM

을 활용하는 방법도 배웁니다. 그리

고

PDF

문서를 활용한 챗봇 프로토타입을 만들어 보는 간단한 튜토리얼로 이 장을 마무리합니

다. 다음 장으로 넘어가기 전에 앞서 만든 프로토타입을 실제 환경에 바로 적용하기 어려운 이

유와 그 한계를 살펴보며, 본격적인 내용을 다루기 위한 기반을 다지겠습니다.

1.1

LLM

의 정의

모델이란 현실 세계의 개념이나 현상을 근사해 표현한 것입니다. 잘 만든 모델은 실제 대상의

특성을 정확히 따라 하고 예측합니다. 그중에서도 언어 모델은 사람의 말을 따라 하는 모델로,

방대한 글과 문장을 보고 배우면서 문장의 구조와 의미를 자연스럽게 익힙니다.

언어 모델을 학습시키는 대표적인 방법은 주어진 텍스트 시퀀스에서 다음에 올 토큰

token

인 단

어나 부분 단어

subword

를 예측하도록 훈련하는 것입니다. 모델은 수많은 텍스트 시퀀스를 학습

하면서 내부 파라미터를 반복적으로 조정해 더 정확히 예측하게 됩니다.

예를 들어 학습 데이터에 다음 문장이 포함된다고 가정해 보겠습니다.

After

a

physical

altercation

with

the

patrons

of

a

restaurant

,

Alex

was

feeling

extremely

pleased

with

himself

.

He

walked

out

with

a

swagger

and

confidence ...