실무로 통하는 LLM 애플리케이션 설계

394

3

부

LLM 애플리케이션 활용 패러다임

연습 문제 ●●●

Mem0

플레이그라운드를 사용해 컨텍스트 윈도를 초과하는 매우 긴 대화를

LLM

과 나눠보세요.

대화의 중간중간에 가상의 친구가 좋아하는 주제나 관심사를 언급해 보세요.

LLM

에 친구의 관

심사와 관련된 생일 선물을 선택하는 데 도움을 요청해 보세요.

LLM

이 친구에 관한 대화의 정보

를 기억하나요? 대화를 재구성하거나 정제해 관련 정보를 더 효율적으로 검색하거나 활용하게

할 수 있을까요?

12.6

RAG

로 인컨텍스트 학습 예시 선택하기

이번 장의 서두에서 언급했듯이,

RAG

는 퓨샷 학습에 사용할 훈련 예시를 동적으로 선택하는

데도 활용할 수 있습니다. 이는 훈련 예시들이 저장된 데이터 저장소에서 특정 입력에 가장 적

합한 예시들을 검색해 가져오는 방식입니다. 이렇게 검색된 예시들은

LLM

이 사용자 질문에 정

확한 답변을 생성할 가능성을 최대화하도록 설계되어야 합니다.

가장 간단한 접근은 입력 텍스트의 임베딩을 생성한 후, 입력 임베딩과 가장 유사한 임베딩을

가진 예시들을 검색하는 방식입니다. 이 방법은 괜찮은 출발점이지만, 더 정교한 기법을 적용

하면 성능을 더 향상할 수 있습니다.

왕 연구진

41

은

LLM

검색기

LLM

Retriever

(

LLM

-

R

)라는 기법을 소개합니다. 이 기법은

LLM

의 피

드백을 ...