핸즈온 LLM

429

12

장

생성 모델 미세 튜닝하기

device_map="auto",

)

# LoRA와 베이스 모델을 병합합니다.

merged_model = model.merge_and_unload()

어댑터와 베이스 모델을 병합한 후 앞서 정의한 프롬프트 템플릿을 사용해 모델을 실행할 수

있습니다. 훈련 과정에서 토크나이저가 업데이트되지는 않으므로 앞서 로드한 토크나이저를

다시 사용할 수 있습니다.

from transformers import pipeline

# 사전에 정의된 프롬프트 템플릿을 사용합니다.

prompt = """<|user|>

Tell me something about Large Language Models.</s>

<|assistant|>

"""

# 지시 기반으로 튜닝된 모델을 실행합니다.

pipe = pipeline(task="text-generation", model=merged_model, tokenizer=tokenizer)

print(pipe(prompt)[0]["generated_text"])

Large Language Models (LLMs) are artificial intelligence (AI) models that learn

language and understand what it means to say things in a particular ...