
50
1
부
LLM의 구성 요소
WARNING
_
CoT
프롬프팅을 사용하면 모델이 과제를 해결할 때 생성하는 토큰 수가 많이 증가해 비용이 높
아집니다.
1.5.4
프롬프트 체이닝
작업을 수행하려면 여러 단계와 복잡한 지시가 필요할 때가 많습니다. 이때 모든 지시를 하나
의 프롬프트에 몰아넣을 수도 있지만, 과제를 여러 하위 작업으로 나누고 각 프롬프트의 출력
을 다음 프롬프트의 입력으로 연결하는 방식도 있습니다. 필자가 관찰한 바로는 이러한 프롬프
트 체이닝
chaining
방식이 전체 작업을 단일 프롬프트로 처리하는 방식보다 일관되게 더 좋은 성
능을 보입니다.
예를 들어 제공된 텍스트에서 정보를 추출해 구조화된 형식으로 출력하는 작업을 생각해 봅시
다. 이때 누락된 값이나 이상치
outlier
가 있다면 별도의 후처리 규칙을 적용해야 합니다. 이럴 때
는 작업을 두 개의 프롬프트로 나누는 것이 좋습니다. 첫 번째 프롬프트에서는 정보를 추출하
고, 두 번째 프롬프트에서는 추출된 정보를 후처리하도록 구성하는 방식입니다.
1.5.5
적대적 프롬프팅
때로는
LLM
이 요청을 수행하지 않고 거부하기도 합니다. 이는
LLM
이 특정 유형의 요청을 거
부하도록 별도로 학습되었기 때문입니다. 이러한 동작을 구현하는 방법은
8
장에서 배웁니다.
이 학습 방식을
정렬
훈련
이라고 부르며, 모델을 ...