에이전트 시대의 AI 시스템 설계

428

에이전트 시대의 AI 시스템 설계

다. 일정 크기 이상이 되면 소위 수확 체감

diminishing

return

현상이 나타난다. 다중 에이전트 시스템은 모든 능력을 하

나의 거대 모델에 인코딩하는 대신, 특화된 지식을 여러 소규모 모델에 분산시킴으로써 매개변수 효율성

parameter

efficiency

을 높인다.

추론 깊이 제한

단일 모델은 다단계 추론, 특히 사고 흐름을 여러 개 유지하거나 대안적 접근법들을 동시에 탐색해야 하는 작업

에서 어려움을 겪는 경우가 많다. 본질적으로 트랜스포머 기반 모델은 작업을 직렬로(차례로 ) 실행하므로, 다수

의 추론 경로를 병렬로 진행하는 방식에서는 한계가 드러난다. 추론 과정을 너비 우선 탐색 (

BFS

)처럼 다루고

그에 맞춰 토큰을 더 넉넉하게 사용한다면 성능을 높일 수 있을 것이다.

도메인 적응 문제

일반적인 데이터 분포로 훈련된 단일 모델은 특정 도메인에 관한 전문 지식이 부족할 수 있다. 미세조정

fine

-

tuning

이 이 한계를 해결하는 데 도움이 되긴 하지만, 완전히 해결하지는 못한다. 또한, 파국적 망각

catastrophic

forgetting

이나

다른 도메인에서의 성능 저하 같은 부작용이 따르기도 한다.

다중 에이전트 시스템은 이러한 한계들을 해결하는 데 도움이 된다.

7.3.2

해법

다중 에이전트 시스템은 인간 조직 구조를 반영하는 인지적 분업

division

of

cognitive

labor

을 구현해서

모델의 역량을 좀 더 효율적으로 활용한다.

다수의 전문 에이전트

다중 에이전트 ...