실무로 통하는 LLM 애플리케이션 설계

50

1

부

LLM의 구성 요소

WARNING

_

CoT

프롬프팅을 사용하면 모델이 과제를 해결할 때 생성하는 토큰 수가 많이 증가해 비용이 높

아집니다.

1.5.4

프롬프트 체이닝

작업을 수행하려면 여러 단계와 복잡한 지시가 필요할 때가 많습니다. 이때 모든 지시를 하나

의 프롬프트에 몰아넣을 수도 있지만, 과제를 여러 하위 작업으로 나누고 각 프롬프트의 출력

을 다음 프롬프트의 입력으로 연결하는 방식도 있습니다. 필자가 관찰한 바로는 이러한 프롬프

트 체이닝

chaining

방식이 전체 작업을 단일 프롬프트로 처리하는 방식보다 일관되게 더 좋은 성

능을 보입니다.

예를 들어 제공된 텍스트에서 정보를 추출해 구조화된 형식으로 출력하는 작업을 생각해 봅시

다. 이때 누락된 값이나 이상치

outlier

가 있다면 별도의 후처리 규칙을 적용해야 합니다. 이럴 때

는 작업을 두 개의 프롬프트로 나누는 것이 좋습니다. 첫 번째 프롬프트에서는 정보를 추출하

고, 두 번째 프롬프트에서는 추출된 정보를 후처리하도록 구성하는 방식입니다.

1.5.5

적대적 프롬프팅

때로는

LLM

이 요청을 수행하지 않고 거부하기도 합니다. 이는

LLM

이 특정 유형의 요청을 거

부하도록 별도로 학습되었기 때문입니다. 이러한 동작을 구현하는 방법은

8

장에서 배웁니다.

이 학습 방식을

정렬

훈련

이라고 부르며, 모델을 ...