44
에이전트 시대의 AI 시스템 설계
검증할 것이다. 에이전트도 똑같은 일을 할 수 있다. 제
6
장과 제
9
장에서 에이전트가 자신의 출력을 평가하고 스스
로 수정할 수 있게 해 주는
성찰
Reflection
(패턴
18
)과
자체점검
Self
-
Check
(패턴
31
) 같은 패턴들을 살펴볼 것이다.
이 글을 쓰는 시점에서, 에이전트형 행동 방식
agentic
behavior
은 아직 기초 모델 기반 애플리케이션
이 지향하는 목표일 뿐, 완전히 실현되지는 못하고 있다. 비결정성
nondeterminism
이나 환각
hallucina-
tion
등 여러 실패 모드 때문에 아직은 완전히 자율적인
AI
애플리케이션을 만들기가 쉽지 않다.
예를 들어 비결정성 때문에 매번 재주문할 품목의 목록과 수량이 다르게 나올 수 있다(직접 한
번 시도해 보라! ). 간단한 문제라면 에이전트가 행동 계획을 잘 수립하지만, 복잡한 경우에는
그렇지 않다. 제
5
장에서는 에이전트의 계획 및 추론 능력을 향상시키는
사고 연쇄
(패턴
13
) 같
은 패턴을 살펴볼 것이다. 이 책의 여러 설계 패턴은
AI
애플리케이션을 더 에이전트답게
agentic
만들기 위한, 또는 적어도 구축 가능한 것의 범위를 넓히기 위한 방법들이다.
1.4
세밀한 제어
기초 모델에서는 표집
sampling
전략이나 빔 탐색
beam
search
관련 설정을 조절함으로써 결과 생성
과정을 세밀하게 제어할 수 있다 (이 두 요인은 이번 장에서 나중에 좀 더 설명한다 ).
LLM
의
이러한 생성 관련 설정 사항들은 결정론적이고 ...