195
7
장
에이전틱 시스템의 학습
이렇게 몇 줄 안 되는 코드만으로도 에이전트가 특정 작업에서 성능을 개선하기 위해 경험을
기반으로 지속적으로 학습하도록 만들 수 있습니다. 이러한 접근 방식은 매우 실용적이고 비용
효율적이며 구현이 쉽고 경험에서의 지속적인 적응을 가능하게 합니다. 다만, 학습할 샘플 수
가 매우 많은 경우에는 파인튜닝을 고려하는 것이 타당할 수 있습니다.
7.2
모수적 학습: 파인튜닝
모수적 학습
parametric
learning
은 특정 작업에서의 성능을 개선하기 위해 미리 정의된 모델의 파라
미터를 조정하는 방법입니다. 평가용 데이터가 있으면 이를 활용해 시스템의 성능을 개선할 수
있습니다. 비모수적 접근법은 더 단순하고 구현이 빠르기 때문에 먼저 이 방법부터 시작하는
것이 합리적인 경우가 많습니다. 다만 예제와 인사이트를 프롬프트에 추가하는 작업은 시간과
계산 자원을 소모합니다. 충분한 수의 예제가 확보되면 에이전틱 시스템이 수행하는 작업에 대
한 성능을 개선하기 위해 모델 파인튜닝
fine
-
tuning
을 고려할 만한 시점이 올 수 있습니다. 파인튜
닝은 사전학습된
pretrained
모델의 파라미터를 소폭 조정해 새로운 작업이나 데이터셋에 적응시키
는 일반적인 접근 방식입니다.
7.2.1
대형 파운데이션 모델 파인튜닝
대부분의 개발자는
GPT
-
5
, 클로드 오퍼스, 제미나이 같은 대형 파운데이션 모델을 사용해 에
이전틱 시스템을 구축하기 시작합니다. 이런 모델은 다양한 작업에서 매우 뛰어난 성능을 제공
하기 때문입니다. ...