『AI 에이전트 일러스트레이티드 가이드』 (Korean Edition)

제6장. 계획 과 성찰

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

제3장에서는 추론형 LLMs과 복잡한 사고 과정을 보여주는 그 능력에 대해 다루었습니다. 고급 추론 능력은 에이전트 시스템에서 필수적인 행동, 즉 행동을 계획하고 이를 성찰하는 능력을 가능하게 합니다.

에이전트는 다단계로 구성된 실체이며, 일반적으로 목표를 달성하기 위해 취할 행동을 계획해야 합니다. 에이전트에게 코드베이스에 특정 기능을 구현해 달라고 요청한다고 상상해 보세요. 이를 완료하기 위해 에이전트가 취하는 일반적인 단계는 다음과 같습니다.

1. 요구 사항 명확히 하기

2. 기존 코드베이스 분석

3. 기능 설계

4. 기능 구현

5. 기능 테스트

6. 문서 업데이트

이 모든 행동을 실행하기 위해 에이전트는 먼저 해당 행동들을 인지하고 현재 상태의 진행 상황을 추적해야 합니다. 계획 수립은 이러한 행동을 확고히 하고, 필요할 때 에이전트가 계획을 동적으로 조정할 수 있도록 하는 데 필수적입니다. 결국, 계획이 없다면 에이전트가 다음에 무엇을 해야 할지 어떻게 알 수 있겠습니까?

이 계획과 그 안에 포함된 단계들은 종종 여러 번 반복될 수 있습니다. 예를 들어, 에이전트가 버그를 발견할 때마다 기능을 구현하고 테스트하는 과정이 그렇습니다. 반복 루프 역시 에이전트를 구성하는 근본적인 요소입니다. 따라서 초기 계획은 유연하게 수립되어야 하며, 계획이나 그 실행에 문제가 발생할 경우 변경될 수 있어야 합니다. 따라서 수행된 작업과 개선할 수 있는 부분에 대한 성찰은 에이전트의 자율적 특성에 있어 매우 중요합니다. 계획과 성찰은 서로 밀접하게 연결되어 있으며, ‘실행-반성-실행( )’ 피드백 루프를 구현함으로써 시스템은 ‘실행-반성-실행( )’ 국소 최소점에 빠지는 것을 방지합니다.

이 장에서는 에이전트의 계획 수립과 성찰, 그리고 이를 통해 다단계 행동을 계획하고 필요한 단계를 거치면서 행동을 개선하는 방법을 살펴봅니다. 이를 통해 단일 에이전트의 마지막 구성 요소(그림 6-1)에 도달하게 됩니다.

그림 6-1. 계획은 단일 에이전트의 마지막 핵심 구성 요소입니다

계획

3장 ‘ ’에서는 추론과 확장된 사고가 어떻게 LLMs을 새로운 차원으로 끌어올릴 수 있는지 살펴보았습니다. 이 시스템에서 매우 중요한 요소, 즉 고급 추론을 통해 LLMs이 자신의 행동을 계획할 수 있다는 점에 대해 간략히 언급한 바 있습니다. 추론형 LLMs에서 효과적인 계획 수립을 가능하게 하는 다양한 방법론이 존재합니다.

작업 분해

계획 수립의 첫 번째 단계는 초기 쿼리를 하위 작업으로 분해하는 것입니다. 이 장의 시작 부분에 나온 예시처럼, 에이전트에게 특정 기능을 생성해 달라고 요청하면, 에이전트는 해당 쿼리를 더 작은 작업들로 ...