실무로 통하는 LLM 애플리케이션 설계

167

5

장

사용 목적에 맞게 LLM 활용하기

사용 목적에 맞게

LLM

활용하기

5

CHAPTER

이번 장에서는

LLM

생태계를 둘러보는 여정을 이어가며 상용으로 사용할 수 있는 다양한

LLM

을 살펴보고, 작업에 적합한

LLM

을 선택하는 방법에 관한 실질적인 조언을 제공합니다. 또한

다양한 크기의

LLM

을 로드하고 추론을 수행하는 방법도 살펴봅니다.

그리고 텍스트 생성 시 활용되는 다양한 디코딩 전략을 해설하고,

LLM

이 출력하는 결과

와 중간 산출물을 어떻게 해석하는지도 다룹니다. 이를 위해

LIT

-

NLP

와 같은 해석 가능

성

interpretability

도구들도 함께 소개합니다.

5.1

LLM

생태계 탐색하기

요즘은 며칠 간격으로 새로운

LLM

이 출시되고 있으며, 대부분은 최신 성능

state

of

the

art

을 자처

합니다. 하지만 실제로는 이들 모델 간의 차이가 그리 크지 않으므로 모든 새로운

LLM

출시를

추적하는 데 많은 시간을 들일 필요는 없습니다.

하지만 현존하는 다양한

LLM

제공자와 공개되는 모델의 종류, 저작권 및 라이선스와 관련된 이

슈를 폭넓게 이해하는 것이 중요합니다. 지금부터는 이러한 관점에서

LLM

생태계를 살펴보며

우리가 선택할 수 있는 옵션들을 정리해 보겠습니다.

168

2

부

LLM 활용하기

5.1.1

주요

LLM

제공자

LLM

제공자는 ...