284
GPT API를 활용한 인공지능 앱 개발(2판)
다음으로,
4
장에서 설명된 방법을 따라 프롬프트 엔지니어링을 진행합니다. 애플리케이션의
목적과 주요 사항을 프롬프트로 설정하고, 컨텍스트와 작업, 역할에 따른 지침을 부여합니다.
여행 관련 챗봇이므로 사용자에게 필요한 정보를 얻기 위해 인원이나 원하는 숙소 유형, 선호
하는 사항이 있는지 되물어볼 수 있도록 설정합니다.
출력은
JSON
으로 받습니다.
2
장에서 소개된
JSON
출력 형식과
3
장에서 시연된 방법을 활용
할 수 있습니다. 최신 모델인
GPT
-
4o
를 사용하거나, 비용과 속도를 감안해
GPT
-
4o
미니로
구성할 수도 있습니다. 이러한 설정을 마치고 프로젝트의 기본 구성이 잘 작동하는지 확인합니
다. 이 단계까지는 아직 벡엔드나 다른 소프트웨어와 상호작용하지 않습니다.
6.2.4
4
단계: 개선 및 반복
다음으로, 현재 구현된 프로토타입을 어떻게 개선할지 분석하고 적용하는 과정을 반복합니다.
여러 방법을 시도할 수 있습니다.
●
출력 형식 : 원하는 형태의
JSON
데이터셋으로 파인 튜닝하면 할루시네이션을 줄이고 성능을 높일 수
있습니다. 특히 복잡한
JSON
형식을 다루고 고품질 데이터셋을 사용할 때 그렇습니다.
●
플로 (
flow
) : 지침에 너무나 많은 사항이 입력되면, 모델이 모든 지침을 충족시키지 못하거나 할루시네
이션이 발생할 수 있습니다. 이 경우
3
장에선 다룬 것처럼 과정을 단계별로 나누고, 단계마다 적정 분량
의 프롬프트를 입력해 지침을 항상 모두 준수하도록 할 수 ...