AI 에이전트 엔지니어링

332

3

부

신뢰할 수 있는 에이전트 운영과 거버넌스

개인화나 자율 팀의 적응형 워크플로에서 기존 방법보다 더 빠르고 영리하게 진화하는 방법을

소개했습니다.

11.3

지속 학습

이제 지속 학습으로 넘어가겠습니다. 에이전틱 시스템이 실제 상호작용, 피드백, 변화하는 사

용자 요구에 따라 시간이 지남에 따라 적응, 개선, 최적화되도록 설계하는 단계입니다. 정적인

모델이나 사전 규정된 워크플로와 달리, 지속적으로 학습하는 에이전트는 새로운 데이터를 흡

수하고 작동 과정을 정제하며 추론 전략을 동적으로 업데이트하도록 설계됩니다. 이 과정은 단

기 추세에 과적합하거나 회귀를 유발하는 등 의도치 않은 결과를 막기 위해 자동 적응과 세심

한 감독을 결합합니다.

지속 학습은 두 가지 핵심 메커니즘, 인컨텍스트 학습과 온라인 학습을 포괄합니다. 이는 세션

내 실시간 미세 조정부터 워크플로 전반의 점진적 업데이트까지 다양한 규모의 개선을 가능하

게 합니다.

7

장에서 논의했듯 이는 비모수적 기법 (예: 예시 검색, 리플렉시온)을 사용하고 필

요하면 파인튜닝 같은 모수적 방법도 통합할 수 있습니다. 여기서는 라이브 프로덕션 데이터

(사용자 상호작용, 텔레메트리, 실패 로그 등 )를 활용해 개선 루프에 통합하는 데 초점을 둡니

다. 피드백 파이프라인이 이슈를 표면화하고 실험이 수정안을 검증하며 지속 학습이 이를 즉시

또는 지속적으로 반영해 사이클을 촘촘히 만듭니다.

11.3.1

인컨텍스트 학습

인컨텍스트 학습은 파운데이션 모델 기반 시스템에서 가장 즉각적이고 유연한 적응 ...