실무로 통하는 LLM 애플리케이션 설계

45

1

장

LLM의 개념과 첫걸음

아닙니다. 인간을 보조하는 역할이 아니라 완전히 대체하는 방식으로

LLM

을 도입하는 이유는

성능이 인간보다 떨어지더라도 비용 절감 효과가 있기 때문일 수 있습니다. 이러한 성급한 도입

은 장기적으로 고객 만족도를 떨어뜨릴 위험이 있습니다.

반면,

LLM

은 소프트웨어 개발의 진입 장벽을 크게 낮춰 디지털 전환을 가속하고, 더 많은 사람

이 직접 소프트웨어를 개발할 수 있도록 이끌었습니다.

1.5

프롬프팅

기본기를 다졌으니 이제 본격적으로

LLM

을 효과적으로 활용하는 방법을 배워보겠습니다.

LLM

과 상호작용하는 과정을

프롬프팅

prompting

이라고 합니다. 일부 기업은

LLM

에 이름이나 인

격을 부여해 인간처럼 보이게 하지만,

LLM

과의 상호작용은 사람과 대화하는 것이 아니라

프롬

프트를

입력하는

것

임을 명확히 인식해야 합니다.

LLM

은 본질적으로 다음 단어를 예측하는 모

델입니다. 따라서

LLM

이 생성하는 텍스트는 입력된 텍스트인 프롬프트와 모델이 지금까지 생

성한 출력 토큰에 크게 영향을 받습니다. 이 전체 흐름을

컨텍스트

context

라고 부릅니다.

LLM

에 적절한 텍스트를 컨텍스트로 제공하면 원하는 형태의 출력을 유도할 수 있습니다. 이때

‘이상적인 프롬프트’란 다음과 같은 질문에 답할 수 있어야 합니다. ‘

LLM

에 입력했을 때, ...