에이전트 시대의 AI 시스템 설계

368

에이전트 시대의 AI 시스템 설계

6.2

패턴

18

: 성찰

성찰

Reflection

패턴은

AI

시스템이 자신의 추론, 결정, 출력을 스스로 평가한 후에야 최종 답변을

생성하는 에이전트형 접근법이다. 이러한 자기 모니터링 과정을 통해 시스템은 오류를 식별하

고, 해결책을 개선하며, 문제에 대한 접근법을 정련할 수 있다.

성찰 패턴에서

AI

시스템은 시스템을

전체적으로

평가하고 개선한다. 응답 생성에 사용하는 기

초 모델은 그대로 유지된다. 이러한 성찰 과정을

자아 성찰

self

-

reflection

이라고 부르기도 하지만,

콘텐츠 생성용

LLM

과 평가용

LLM

이 반드시 같아야 하는 것은 아니므로 ‘자아’라는 말을 붙일

필요가 없다. 애초에 평가를 반드시

LLM

이 해야 하는 것도 아니다.

6.2.1

문제

챗

GPT

나 퍼플렉시티 같은

LLM

기반 웹 앱을 사용할 때는,

LLM

이 부정확하거나 평범한 답을

내놓으면 사용자는 흔히 후속 질문을 던지거나, 응답의 문제점을 지적하거나, 구체적인 변경

사항을 제안해서

LLM

이 이전 응답을 수정하게 한다.

하지만

API

를 통해

LLM

을 호출할 때는 상태 (이전 질문과 응답 )가 유지되지 않는다. 다른 말

로 하면,

API

호출들은 상태 없는

stateless

상호작용이다. 이런 상태 없는 환경에서

LLM

에게 피

드백이나 비평을 제공해서 이전 응답을 수정하게 하려면 어떻게 해야 할까? 더 나아가서, 그런

피드백이나 비평을 사용자의 개입 없이 자동으로 생성하려면 어떻게 해야 할까?

6.2.2

해법

해법은

LLM ...