에이전트 시대의 AI 시스템 설계

314

에이전트 시대의 AI 시스템 설계

전체 미세조정

full

fine

-

tuning

보다 덜 번거롭고 문제 발생 소지가 적다(사후훈련은 제

1

장에서 자세

히 다뤘다 ).

5.4.2

해법

어댑터 조정은 기초 모델을 구체적인 작업에 맞게 미세조정하는 효율적인 방법이다. 이는 어댑

터(어댑터 조정에 쓰이는 추가 신경망 모듈)의 특별한 아키텍처 덕분이다. 어댑터의 아키텍처

는 훈련 시 매개변수 효율이 높고 배포가 편리하며 인퍼런스

inference

가 빠르다.

아키텍처

어댑터 조정에서는 추가적인 신경망 층 몇 개만 훈련하면 된다. [그림

5

-

9

]에서 ‘어댑터’라고

표시된 녹색 상자가 추가된 층들이다.

어댑터 조정에서는 기초 모델의 구성 요소인 트랜스포머 블록에 적은 수의 어댑터 층들을 삽입

한다. 어댑터 층을 삽입하는 위치는 다양하다. 어댑터 층들의 훈련에는 예시가 수백에서 수천

개만 있으면 된다. 각 예시는 입력 프롬프트와 바람직한 출력으로 구성된다.

어댑터 조정에서 주목할 점은 다음 세 가지이다.

•

어댑터 조정은 사전훈련된 기초 모델에게 특정한 하나의 작업을 수행하도록 가르친다. 모델에게 업계 전

문 용어나 새로운 사실을 가르치는 것이 아니라, 모델이 특정한 작업(분류, 요약, 추출형 질의응답, 회사의

브랜드에 맞는 챗봇 응답 생성 등 )을 수행하는 방법을 습득하게 한다는 점이 중요하다.

•

기초 모델의 가중치들은 동결 (고정 )되고, 추가된 어댑터 층들의 가중치 집합만 조정된다. 조정된 새 어댑

터 층의 가중치들은 그와 연결된 기존 신경망 층 (