162
GPT API를 활용한 인공지능 앱 개발(2판)
3.7
외부
API
와 작업
오픈
AI
API
와 외부 서비스를 함께 사용 시 여러 문제에 직면할 수 있습니다.
API
는 중단 및 예
상치 못한 오류가 발생할 수 있습니다. 오픈
AI
API
는 요청 제한이 있으며,
LLM
생성이 오래
걸릴 수 있어 응답성을 높이는 것이 프로젝트에 난관으로 작용할 수 있습니다. 이 절에서는 에
러 및 요청 제한을 관리하는 팁과 사용자 경험을 개선하는 방법을 다룹니다.
3.7.1
오류 및 예기치 않은 지연 문제 처리
이 절에서 소개된 사례는 오픈
AI
에 한정된 것이 아니며, 어떤
API
나 외부 서비스와 통합할 때
도 유효합니다. 원칙은 다음과 같습니다.
API
실패나 지연은 애플리케이션의 안정성이나 성능
에 영향을 주지 않아야 합니다.
이를 달성하기 위해 가장 흔히 사용하는 프로그래밍 패턴은 다음과 같습니다.
오류 처리
API
호출을
try
/
catch
블록으로 감싸고, 가능한 한 빨리 오류를 처리하세요. 오류를 관리
하면 항상 애플리케이션이 일관된 상태를 유지하고, 오류를 자세히 기록하며, 필요시 사용
자에게 관련된 메시지를 표시하는 것을 의미합니다 (기술적인 세부 사항은 숨깁니다 ). 오
픈
AI
는 발생할 수 있는 예외, 그 원인, 그리고 가능한 해결책 목록(
https
://
oreil
.
ly
/
xlec2
)을 제공합니다. 이 목록을 오류 처리 전략의 기본으로 사용하는 것을 강력히 추천
합니다.
지수 백오프 전략
이 패턴은 재시도를 처리하는 표준 방법입니다. 실패한 요청을 주기적으로 ...