핸즈온 LLM

408

3부 언어 모델 훈련 및 미세 튜닝

'

My

name

is

Maarten

'

이란 문장에서 단어

'

Maarten

'

의 부분토큰이 사람으로 올바르게 분

류되었습니다!

11.5

요약

사전 훈련된 표현 모델을 분류 작업에서 미세 튜닝하는 여러 방법을 살펴보았습니다. 사전 훈

련된

BERT

모델을 미세 튜닝하는 방법과 이 예제를 확장하여 모델의 특정 층을 동결하는 방법

도 알아보았습니다.

퓨샷 분류 기법인

SetFit

을 실험해 보았습니다. 레이블이 있는 적은 양의 데이터를 사용해 사전

훈련된 임베딩 모델과 분류 헤드를 미세 튜닝했습니다. 적은 수의 데이터 포인트만 사용해서

이 장의 초반에 살펴본 모델과 비슷한 성능을 냈습니다.

그다음 추가적인 사전 훈련 개념을 다루었습니다. 사전 훈련된

BERT

모델을 시작점으로 사용

해 다른 데이터에서 훈련을 계속합니다. 마스크드 언어 모델링을 사용해 표현 모델을 만들 뿐

만 아니라 사전 훈련된 모델을 계속 훈련할 수 있습니다.

마지막으로 비정형 텍스트에서 사람이나 장소 같은 특정 개체를 식별하는 작업인 개체명 인식

을 살펴보았습니다. 이전 예제와 비교하면 이 분류 작업은 문서 수준이 아니라 단어 수준에서

수행됩니다.

다음 장에서 생성 언어 모델의 미세 튜닝에 대해 계속 알아보겠습니다. 지시를 잘 따르게 하여

사람의 선호도에 맞추도록 세 단계에 걸쳐 생성 모델을 미세 튜닝하는 방법을 배우겠습니다.