
287
10
장
운영 환경 모니터링
운영
환경 모니터링
10
CHAPTER
프로덕트 오너, 머신러닝 엔지니어, 사이트 신뢰성 엔지니어 (
SRE
) 중 누구든 에이전트가 프
로덕션에 들어가면 무엇을 왜 하는지 볼 수 있어야 합니다. 에이전틱 시스템을 배포하는 일은
절반에 불과합니다. 진짜 과제는 에이전트가 동적이고 예측 불가능하며 고위험 환경에서 운영
되기 시작하면서부터입니다. 모니터링은 현실로부터 학습하는 방법입니다. 문제가 커지기 전
에 실패를 포착하고 사용자가 알아차리기 전에 회귀를 식별하며 실환경 신호에 맞춰 시스템을
적응시키는 수단입니다.
기존 소프트웨어와 달리 에이전트는 확률적으로 작동합니다. 파운데이션 모델에 의존하고 도
구를 체이닝하며 경계가 없는 사용자 입력에 반응합니다. 모든 시나리오를 망라하는 테스트를
작성할 수 없습니다. 그래서 모니터링이 배포된 에이전트 인프라의 신경계 역할을 합니다.
모니터링은 문제 탐지에 그치지 않습니다. 학습과 반복을 가속하는 촘촘한 피드백 루프의 중추
입니다. 모니터링을 잘하는 팀은 더 빨리 학습하고 더 안전하게 배포하며 배포할 때마다 신뢰
성을 개선합니다.
이 장에서는 오픈 소스 모니터링에 집중합니다. 어라이즈
AX
, 랭퓨즈
Langfuse
같은 우수한 상용
플랫폼이 있지만 여기서는 자체 호스팅과 자유로운 확장이 가능한 도구에 ...