213
7
장
에이전틱 시스템의 학습
요약하면
RLVR
은 선호 학습과 가치 기반 정책 최적화를 결합함으로써 강화 파인튜닝 (
RFT
)
의 가능성을 확장합니다. 이를 통해 모델은 단순히 선호되는 출력을 모방하는 수준을 넘어 무
엇이 가장 유용하고 정확하며 잘 정렬되어 있을지를 예측하고 그 방향으로 최적화할 수 있게
됩니다. 이로써 자기 개선이 가능하고 작업 특화된 파운데이션 모델로 나아갈 수 있는 길이 열
립니다.
7.3
마무리
에이전틱 시스템의 학습은 다양한 접근 방식을 포괄하며 각각은 성능과 적응성을 향상시키는
고유한 장점을 제공합니다. 비모수적 학습은 기본 모델 파라미터를 수정하지 않고도 에이전트
가 경험으로부터 동적으로 학습하도록 해 주며 단순성, 속도, 실제 환경에 대한 반응성을 중시
합니다. 이에 반해 모수적 학습은 모델 가중치를 직접 파인튜닝하여 더 깊은 특수화를 이끌어
냅니다. 예를 들어 지도 파인튜닝을 통해 구조화된 출력과 함수 호출을 정교하게 다듬거나 직
접 선호 최적화를 통해 미묘한 인간 판단에 맞춰 출력 품질을 조정할 수 있습니다. 이러한 학습
방법들을 함께 사용하면 강력한 도구 상자를 구성할 수 있습니다. 비모수적 학습의 기민함과
표적화된 모수적 적응을 결합하면 개발자는 변화하는 작업과 환경에 발맞춰 진화하면서도 각
학습 투자가 운영 제약과 성능 목표에 부합하도록 설계된 지능적이고 견고한 에이전트를 만들
수 있습니다.