AI 에이전트: 결정판 가이드 (Korean Edition)

제3장. 에이전트의고급 계획, 추론, 및 확장 가능한 실행

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

제1장과 제2장에서 보았듯이, AI 에이전트는 마법이 아니라 공학적으로 설계된 시스템입니다. 하지만 이 장에서 배우게 될 기술들은 마법에 가까워 보일 수도 있습니다. 아서 C. 클라크가 한때 말했듯이:

충분히 발전한 기술은 마법과 구별할 수 없다.¹

그 마법 같은 느낌은 에이전트가 단순히 반응하는 것을 멈추고, 대신 자신의 경험으로부터 배우거나 테스트 시점에 더 현명한 선택을 하기 시작할 때 생겨납니다. 적어도 비유적인 의미에서, 에이전트는 더 이상 고정된 대본만을 따르는 비플레이어 캐릭터(NPC)가 아닙니다. 강화 학습(RL)의 원리를 LLMs에 적용하면, 에이전트는 스스로 학습하고 적응하기 시작합니다. 이것이 바로 클라크의 명언이 AI 에이전트의 세계에서 새로운 의미를 갖게 되는 이유입니다.

하지만 처음에는 기이해 보일 수 있는 이 현상은 사실 일련의 명확한 메커니즘에서 비롯됩니다. 이 장에서는 이러한 메커니즘을 심도 있게 설명합니다. 독자들은 강화 학습(RL)이 추론과 결과 사이에 어떻게 피드백 루프를 구축하는지, 그리고 트리 기반 탐색과 적응형 계획이 에이전트가 행동에 나서기 전에 여러 가지 미래를 시뮬레이션하고, 더 많은 해결책을 탐색하는 것이 나은지 아니면 잠재적인 해결책을 다듬는 것이 나은지를 결정하게 하는 방법을 배우게 될 것입니다.

이러한 각 메커니즘은 ‘ ’ 자기 개선이라는 환상을 만들어내며, 이는 물론 에이전트가 시간이 지남에 따라 더 나아지는 정교화 과정입니다. 에이전트는 피드백을 수집하고, 자신의 선택을 성찰하며, 마치 살아있는 것처럼 보이는 방식으로 행동을 개선합니다. 보상, 피드백 루프, 동적 재계획은 Agent Reinforcement Trainer(ART), 상대적 범용 LLM 유도 보상(RULER), 언어 모델을 위한 강화 학습(rLLM) 과 같은 RL 프레임워크와 연결되어, 훈련과 배포 전반에 걸쳐 지속되는 지속적인 개선의 순환을 형성합니다.

이 장에서는 설계와 자율성 사이의 경계를 넘게 됩니다. 여러분의 AI 에이전트는 더 이상 스크립트를 따르지 않고 스스로 문제를 해결하기 시작합니다. 예지력, 강화 학습, 확장 가능한 실행이 조화를 이룰 때, 바로 그 순간 여러분은 AI 에이전트가 더 이상 단순히 조종되는 존재가 아니라는 인상을 받게 됩니다. 여기서 여러분은 강화 학습(RL)을 통해 에이전트에게 선택과 개선에 대한 인식을 부여하며, 학습하고, 추론하며, 개선할 수 있는 시스템을 구축하게 됩니다. 요컨대, 이 장은 여러분의 에이전트가 ‘ ’한 주체성을 발휘하도록 설계하는 데 도움을 줄 것입니다.

제로섬 게임을 넘어: 보상에서 추론으로

만약 강화 학습(RL)에서 학습이 실제로 어디서 일어나는지 궁금해한 적이 있다면, 이 섹션에서 그 이야기가 어디서 시작되는지 알게 될 것입니다. 모든 것은 에이전트가 잘했는지 ...