핸즈온 LLM

372

3부 언어 모델 훈련 및 미세 튜닝

비지도 학습 지도 학습

적응형 사전 훈련

타깃 도메인 외부 도메인

그림

10-15

도메인 적응은 적응형 사전 훈련과 적응형 미세 튜닝으로 수행할 수 있습니다.

이 장에서 배운 내용을 모두 활용하여 이 파이프라인을 재현할 수 있을 것입니다! 먼저

TSDAE

로 타깃 도메인에서 임베딩 모델을 훈련합니다. 그다음 일반적인 지도 학습이나 증식

SBERT

를 사용해 미세 튜닝할 수 있습니다.

10.7

요약

다양한 작업을 통해 임베딩 모델을 만들고 미세 튜닝하는 방법을 살펴보았습니다. 임베딩의 개

념과 텍스트 데이터를 수치 포맷으로 표현하는 임베딩의 역할에 대해 논의했습니다. 그다음 많

은 임베딩 모델의 기본 기술인 대조 학습을 살펴보았습니다. 대조 학습은 비슷한 문서 쌍과 비

슷하지 않은 문서 쌍으로 훈련하는 방법입니다.

인기 있는 임베딩 프레임워크인

sentence

-

transformers

를 사용해 사전 훈련된

BERT

모델

로 임베딩 모델을 만들었습니다. 코사인 유사도 손실과

MNR

손실 같은 다양한 손실 함수를 살

펴보았습니다. 비슷한 (또는 비슷하지 않은 ) 문서 쌍이나 삼중항을 모으는 것이 모델의 성능

에 얼마나 중요한지 논의했습니다.

그다음 절에서 임베딩 모델을 미세 튜닝하는 기법을 살펴보았습니다. 증식

SBERT

와 도메인

적응을 ...