그림으로 배우는 생성형 AI

116

그림으로 배우는 생성형 AI

스템을 구축하는 방법은

6

장의

LLM

옵스

LLMOps

절에서

논의하겠습니다

.

2.3.3 미세조정과 증류

모델이 새로운 작업을 수행하는 방법이나 새로운 지

식을 배우게 하려면 어떻게 해야 할까요

?

전통적인

머신러닝에서는 새로운 데이터셋으로 모델 전체를 다

시 훈련했기 때문에 비용과 시간이 많이 들었습니다

.

하지만 딥러닝

(

심층학습

)

에서는 전이학습

transfer

learning

이라는 아이디어를 도입했는데요

.

전이학습은 아주

큰 데이터셋으로 일반적인 작업들을 처리하는 방법을

이미 배운 기초 모델이 비교적 간단하게 새로운 능력

을 배우게 하는 기법으로

,

특정한 작업을 위해 아주

작은 데이터셋으로 그 기초 모델을 미세조정

fine

-

tuning

하는 것이 핵심입니다

.

생성형

AI

모델이 처음 소개

되었을 때 생성형

AI

모델도 그런 식으로 미세조정해

야 할 것이라고 생각하는 사람이 많았습니다

.

하지만

프롬프트 엔지니어링이나 에이전트 프레임워크 같은

기법들 덕분에 꼭 그렇지만은 않다는 것이 증명되었

는데요

.

이 기법들은 이번 장의 뒷부분에서 다룰 예정

입니다

.

개념적으로 미세조정은 새로운 데이터셋

,

특히 완전

히 새로운 작업을 수행하는 방법을 보여주는 데이터

셋으로 기초 모델을 몇 차례 더 훈련하는 과정입니다

.

안타깝게도 파국적 망각

catastrophic ...