핸즈온 LLM

338

3부 언어 모델 훈련 및 미세 튜닝

10.2

대조 학습이란?

텍스트 임베딩 모델을 훈련하고 미세 튜닝하는 주요 방법 하나는

대조 학습

contrastive

learning

입니

다. 대조 학습은 벡터 공간에서 비슷한 문서가 가까이 놓이고 비슷하지 않은 문서는 멀리 떨어

지도록 임베딩 모델을 훈련하는 것이 목적입니다.

2

장에서 본

word2vec

방법과 매우 비슷하

기 때문에 익숙하게 들릴 수 있습니다. [그림

10

-

2

]와 [그림

10

-

3

]에서 이미 이 개념을 선보였

습니다.

대조 학습의 기본 아이디어에 따르면 문서 간의 유사성/비유사성을 학습하고 모델링하는 가장

좋은 방법은 비슷한 샘플 쌍과 비슷하지 않은 샘플 쌍을 모델에게 제공하는 것입니다. 문서의

의미를 정확하게 포착하기 위해 문서를 다르거나 비슷하게 만드는 요소를 모델이 학습하도록

여타 문서와 대조할 필요가 있습니다. 이런 대조 과정은 매우 강력하며 문서가 쓰인 맥락과 관

련이 있습니다. [그림

10

-

4

]에 이 과정을 고수준으로 나타냈습니다.

임베딩 모델

입력

문서

A

문서

B

출력

비슷함/비슷하지 않음

그림

10-4

대조 학습의 목적은 문서가 비슷한지 다른지를 임베딩 모델에게 가르치는 것입니다. 이를 위해 어느 정도 유

사하거나 유사하지 않은 문서 집합을 모델에게 제공합니다.

또 대조 학습은 설명의 본질을 생각하는 ...