실무로 통하는 LLM 애플리케이션 설계

52

1

부

LLM의 구성 요소

1.6

API

를 통한

LLM

접근 방법

여러분은 이미 챗

GPT

, 제미나이

Gemini

, 클로드

Claude

같은 챗 인터페이스를 사용해

LLM

과 상호

작용해 봤을 것입니다. 이번에는

API

로

LLM

에 접근하는 방법을 살펴보겠습니다. 오픈

AI

API

를 사용해

GPT

계열 모델에 접근하는 방법을 보여주는 예시입니다. 대부분의 상용 모델

API

도 비슷한 방식으로 파라미터를 설정할 수 있습니다.

GPT

-

4o

mini

와

GPT

-

4o

모델은 오픈

AI

의

Chat

Completion

API

를 통해 사용할 수 있습

니다. 다음은 사용 예시입니다.

from openai import OpenAI

client = OpenAI(api_key=<여기에 본인의 API 키를 입력하세요>)

response = client.responses.create(

model=”gpt-4o-mini”,

input=[

{“role”: “system”, “content”: “당신은 뛰어난 이야기 작가입니다.”},

{“role”: “user”, “content”: “강아지와 코끼리가 친구 관계를 끝내는

짧은 동화를 써주세요.”}

]

)

print(response.output[0].content[0].text)

여기서

role

은 다음 네 가지로 구분됩니다.

●

system

: 시스템 ...