파이토치로 배우는 LLM & AI

409

16

장

사용자 정의 데이터와 함께 LLM 사용하기

출력 결과는 다음과 같습니다.

'This movie was absolutely fantastic! The acting was superb.'에 대한 테스트 예측:

감성: positive

신뢰도: 99.16%

이 문장이 높은 신뢰도로 긍정적이라는 것을 볼 수 있습니다.

이 과정을 통해 단계별로 기존

LLM

을 새 데이터로 미세 튜닝하여 분류 모델으로 전환했습니다.

많은 경우 이는 과할 수 있습니다. 즉,

LLM

을 미세 튜닝하는 대신 자체 모델을 훈련하는 것이

더 빠르고 저렴할 수 있습니다. 하지만 이런 과정을 평가해 볼 가치는 분명 있습니다. 때로는 미

세 튜닝하지 않은

LLM

도 분류에 잘 작동할 수 있습니다. 필자의 경험상

LLM

의 일반적인 언어

이해 능력을 활용하면 훨씬 더 효과적이고 강력한 결과를 내는 분류기를 만들 수 있습니다.

16.2

LLM

프롬프트 튜닝

미세 튜닝에 대한 가벼운 대안은 모델을 특정 작업에 적응시킬 수 있는

프롬프트 튜닝

prompt

tuning

입니다. 프롬프트 튜닝에서는 모델 가중치를 수정하는 대신 입력 앞에 훈련 가능한

소프트 프롬

프트

soft

prompt

를 추가합니다. 이러한 소프트 프롬프트는 훈련 중에 최적화됩니다.

이러한 소프트 프롬프트는 모델의 동작을 안내하는 학습된 ...