에이전트 시대의 AI 시스템 설계

376

에이전트 시대의 AI 시스템 설계

성찰 때문에 지연시간이 허용할 수 있는 수준 이상으로 늘어날 수 있다. 이런 점들을 고려하면,

풀고자 하는 문제의 특성, 가용 시간, 예상되는 품질 향상의 비즈니스 영향 등을 바탕으로 성찰

깊이를 조정하는 데 사용할 수 있는 발견법적 규칙

heuristics

을 마련하는 것이 도움이 될 것이다.

로고 생성 예제에서는 초기 로고를 하나 만들고 그로부터 여러 개의 초안을 만들었는데, 그렇

게 하는 대신 처음부터 초안을 여러 개 생성한 후 빔 탐색

beam

search

비슷한 접근법으로 후보군

을 좁히는 것도 가능하다. 즉, 최종 선택을 하기 전에 단계마다 모든 초안을 수정하고 좋지 않

은 후보를 가지치기해 나가는 것이다. 물론 이렇게 하면 비용은 더 증가할 것이다.

올바른 평가 수행

성찰 패턴에서 가장 중요한 부분은 평가 단계이다. 성찰이 좋은 결과를 내려면 평가가 견고해

야 하며, 응답이 목적에 부합하는지를 잘 식별해야 한다.

LLM

은 자신의 작업물을 높게 평가하는 경향이 있다. 따라서 실제 작업에 사용한 것과는 다른

LLM

을 평가에 사용해서 이런 관대함/자기 편향을 피하는 것이 바람직하다. 앞의 예제에서는

로고 이미지 생성에 제미나이를, 로고 비평에는 클로드를 사용했다. 관대함 문제를 해결하는

또 다른 방법을

심판형

LLM

(패턴

17

)의 “고려사항” 절 (§

6

.

1

.

4

)에서 이야기했다.

6.2.5

참고문헌

AI

에서 성찰의 발전 과정은 심리학에서 메타인지

metacognition

의 향상을 위한 인지적