
118
GPT API를 활용한 인공지능 앱 개발(2판)
3.3
LLM
기반 애플리케이션의 능력
애플리케이션에
GPT
모델같은
LLM
을 결합해 여러 능력을 더할 수 있습니다.
3.3.1
대화 능력
[그림
3
-
2
]에서 볼 수 있듯이, 이 솔루션에서는 사용자가 당신이 만든 인터페이스를 통해
GPT
모델에 직접 액세스할 수 있습니다. 사용자는 챗
GPT
와 대화하는 것과 비슷하게 당신이 만든
시스템과 대화합니다. 이 솔루션을 필요에 맞게 만들려면 미리 특정 프롬프트를 입력하거나 파
인 튜닝한 모델을 만들어야 합니다.
LLM
출력
유저 입력
GPT
모델
그림
3-2
사용자와
GPT
모델 간의 흐름
예를 들어 리옹에 찾아온 관광객을 위한 가이드를 만든다면 다음과 같은 초기 프롬프트를 입력
할 수 있습니다.
당신은 리옹을 방문하는 관광객을 돕는 도우미입니다. 질문에 최대한 성실히 답변하고, 지역 명소, 추
천 식사 메뉴, 교통 정보에 대해 유용한 정보를 제공하세요.
시스템 메시지는
API
에 전송되는 첫 번째 메시지입니다. 다음 메시지부터는 사용자와
LLM
의
대화를 전송할 수 있습니다. 모델의 대화 능력을 활용하면 필요에 따라 조정하고 출력을 맞춤
설정할 수 있습니다. 이때 세 가지 주의 사항이 있습니다.
●
프롬프트 엔지니어링 : 챗봇이 주목적을 잊지 않도록 합니다.
●
가드레일 : 할루시네이션과 ...