GPT API를 활용한 인공지능 앱 개발(2판)

120

GPT API를 활용한 인공지능 앱 개발(2판)

지식 베이스

임베딩 계산

문서 청크

관련 자료 검색

사용자 쿼리

임베딩 계산

LLM

유저 쿼리와

관련 자료를 이용해

답변 생성

그림

3-4

RAG

단계

이 시점에서는 시맨틱 검색을 기반으로 정보를 검색했습니다. 시맨틱 검색은 임베딩 모델을 필

요로 하지만

LLM

은 필요하지 않습니다. 임베딩 모델을 사용하면

의미

로 검색할 수 있어

직접 일

치

하는 텍스트를 검색하지 않아도 됩니다.

RAG

를 적용하려면 추가 단계가 필요합니다.

4

.

LLM

을 사용해 의미 검색에서 반환된 관련 데이터를 분석해 정확한 답변을 작성

정보 검색은

LLM

의 생성 능력을 높여, 검색 증강 생성이라는 이름이 붙었습니다.

4

단계에서

LLM

을 호출하면 문서 일부분을 분석하고 요약할 필요 없이 정확하고 이해하기 쉬운 답변을 받

을 수 있습니다.

RAG

기법을 더 깊이 이해하려면

4

장의 자세한 구현 설계를 보세요.

RAG

의 가능성은 무한하며 사용자와 대화하는 챗봇보다 관리하기 쉽습니다. 작업이 매우 구체

적이고 명확해서 할루시네이션이 줄어듭니다. 그리고 대화가 많이 발생하지 않기 때문에 비용

을 더 쉽게 관리할 수 있습니다.

WARNING

프롬프트 인젝션은 항상 주의해야 합니다.

GPT

모델이 사용자의 입력을 처리한다면 언제든 프롬프트

인젝션에 노출될 위험이 ...