59
2
장
에이전트 시스템 설계
대화형 어시스턴트는 각 하위 작업의 결과를 확인한 후 다음 단계를 계획하며 순서를 동적으로
조정해 응답성과 안정성을 모두 확보합니다.
견고한 오케스트레이션 계층이 없다면 아무리 강력한 스킬이라도 방향이 어긋나거나 전체 실
행이 멈출 위험이 있습니다.
5
장에서는 탄탄하고 유연한 오케스트레이션 엔진을 설계하는 패
턴과 아키텍처, 모범 사례를 자세히 살펴보겠습니다.
2.7
설계 트레이드오프
에이전트 기반 시스템을 설계할 때는 성능, 확장성, 신뢰성, 비용 사이의 다양한 트레이드오프
를 균형 있게 조정해야 합니다. 이러한 요소들은 실제 환경에서 에이전트가 어떻게 작동하고
성능을 발휘하는지를 결정하므로 개발자는 전략적인 선택을 내려야 합니다. 이 절에서는 효과
적인 에이전트 시스템을 설계할 때 고려해야 할 주요 트레이드오프를 살펴보고 이를 균형 있게
다루는 방법에 대해 논의합니다.
2.7.1
성능: 속도와 정확도의 균형
에이전트 설계에서 중요한 트레이드오프 하나는 속도와 정확도의 균형입니다. 높은 성능은 정
보를 빠르게 처리하고 의사결정을 내리며 작업을 수행할 수 있지만 그만큼 정밀도가 떨어질 수
있습니다. 반대로 정확도를 높이려면 복잡한 모델이나 계산 집약적인 기법이 필요해 전체 속도
가 느려질 수 있습니다.
자율주행 차량이나 트레이딩 시스템처럼 실시간 의사결정이 중요한 환경에서는 밀리초 단위의
차이가 결과를 바꿀 수 있습니다. 이런 경우에는 정확도보다 속도를 우선시해야 합니다. 반면
법률 분석이나 의료 진단과 같이 정확성이 ...