파이토치로 배우는 LLM & AI

462

2

부

모델 사용

이전에 언급한 것처럼

OPENAI

_

API

_

KEY

환경 변수만 설정하면

GPT

를 사용한

RAG

를 구현할

수 있습니다. 모델을 사용할 때 오픈

AI

의 가격 정책을 확인하는 것을 잊지 마세요!

18.4

마치며

이 장에서

RAG

에 대한 기초를 배웠습니다. 언어에 대한 일반적인 이해 능력을 로컬 데이터와

결합하여

LLM

의 성능을 향상시키는 강력한 기술을 배웠습니다. 책에서 벡터 데이터베이스를

생성하고, 프롬프트에 관련된 정보를 데이터베이스에서 검색하여

RAG

가 어떻게 작동하는지

알아보았습니다.

소설의 등장인물에 대해 질의하기 위한 방법을 살펴봤습니다.

Llama

와

GPT

같은 모델은 소

설에서 훈련되지 않았지만 텍스트를 인공적으로 이해하고 훌륭한 정보와 분석을 제공할 수 있

습니다.

벡터 저장소를 위해

ChromaDB

같은 도구와 유사도 검색을 위해 오픈

AI

에서 제공하는 텍스

트 벡터 임베딩 같은 사전 훈련된 임베딩을 살펴봤습니다. 또한

RAG

를 사용해 향상할 수 있는

여러 가지 모델을 살펴보았습니다.

Ollama

와 함께

Llama

,

Gemma

같은 작은 로컬 모델과

오픈

AI

API

를 통한

GPT

같은 대규모 호스팅된 모델을 다루어 보았습니다. 텍스트 분할, 인코

딩, 저장, 유사도 기반 검색, 프롬프트와 함께 모델에 전달하여

RAG

수행하기 등 처음부터 끝

까지 전 과정을 다루었습니다.

다음 장에서

AI

에서 흥미로운 또 다른 측면인 생성 이미지 모델에 대해 알아보겠습니다. 텍스

트 프롬프트로 이미지를 생성하는 여러 모델을