GPT API를 활용한 인공지능 앱 개발(2판)

232

GPT API를 활용한 인공지능 앱 개발(2판)

1.

프로그램이 대부분의 경우에 잘 작동한다는 것을 증명하세요. 이전 절에서 다룬 내용인 같은 시나리오를

여러 번 반복해 테스트 캠페인을 수행하고 관련된 지표를 사용하는 것을 통해 증명할 수 있습니다. 다음

절에서 소개할 할루시네이션을 줄이는 전략도 유용할 것입니다.

2.

오류 처리 및 다시 시도 옵션을 제공해 애플리케이션이 작동하지 않을 경우를 대비하세요.

비결정성이 실제로 도움이 되는가에 대해 의문이 들 수도 있습니다. 간단한 작업에는 비결정성

은 중요하지 않을 것입니다. 하지만

3

.

4

.

4

절이나

5

장에서 소개될 에이전트처럼 복잡한 시스템

의 경우에는 시스템이 오류 상태에 빠지지 않도록 하는 데 도움이 될 수 있습니다. 이렇게 복잡

한 시스템의 결과를 완벽히 제어하기는 불가능하니, 비결정성을 받아들이고 최대한 활용하기

를 바랍니다.

4.5.3

할루시네이션

1

장에서

GPT

모델은 할루시네이션을 일으킬 수 있어 출력 결과를 신뢰하기 어렵다고 설명했

습니다. 이 위험을 줄이는 전략을 소개하겠습니다.

●

프롬프트 엔지니어링 : 꼼꼼하게 설계한 프롬프트는 주어진 작업의 범위를 줄여 할루시네이션 발생 위험

을 낮춥니다. 이 장에서 다룬

CoT

같은 기법은 추론 능력을 높이고

LLM

의 할루시네이션을 줄이는 데

효과적입니다.

●

파인 튜닝 : 파인 튜닝한 모델은 특정 작업을 수행하도록 설계해 할루시네이션을 줄일 수 있습니다.

●

RAG

기반 솔루션 구현:

RAG

는 모델의 할루시네이션 방지를 보장하지는 ...