에이전트 시대의 AI 시스템 설계

281

5

장

모델 능력 확장

큰 현상의 한 증상일 뿐이다. 프로덕션에서 기초 모델을 사용하다 보면 해당 도메인이나 업계에

특화된 작업을 만나게 될 것이며, 그러면 여기서 설명하는 것과 같은 증상들을 겪게 될 것이다.

여러분의 업계나 비즈니스에서도 기초 모델의 훈련 데이터셋에서 잘 다루지 않는, 어렵거나 생

소한 분석 작업 (투자 위원회 메모 작성, 내부 조사 수행, 공급업체 선정 방법 결정 등)을 수행

할 일이 생길 것은 분명하다. 그럼 훈련받지 않은 작업을 기초 모델에 가르칠 때 사용할 수 있

는 네 가지 패턴을 차례로 살펴보자.

5.2

패턴

13

: 사고 연쇄(

CoT

)

사고 연쇄

Chain

of

Thought

패턴은 사고 연쇄 혹은 ‘생각의 사슬’ 추론 기법을 이용한다. 사고 연쇄

추론 기법은 복잡한 문제에 대해

LLM

이 최종 답변을 즉시 생성하는 대신 중간 추론 단계들로

나누어 처리하도록 유도해서 문제 해결 능력을 향상하는 프롬프팅 기법이다.

5.2.1

문제

수학 계산이나 논리 연역

deduction

추론 또는 순차 논리 추론

sequential

logic

reasoning

이 포함된 문제의

경우 기초 모델의 해결 능력은 훈련 데이터의 포괄도

coverage

수준에(즉, 훈련 데이터가 얼마나

상세하고 방대한가에) 크게 좌우된다. 이 문제는 다단계 추론이 필요한 ...