에이전트 시대의 AI 시스템 설계

174

에이전트 시대의 AI 시스템 설계

3.1.4

고려사항

RAG

는

LLM

에 사실 관계 지식을 추가하는 데 매우 적합하다.

RAG

는 (주어진 쿼리와 ) 가장

관련성이 높은 지식을 찾아 프롬프트의 컨텍스트에 통합하는 방식으로 작동한다.

대안

제

2

장에서 논의한 스타일 제어 관련 패턴들은 지식을 전혀 추가하지 않는다. 또한 제

1

장의

로

짓 마스킹

(패턴

1

)도 지식 추가에는 효과가 없는데, 이유는 명백하다. 애초에 마스킹을 하려

면 먼저

LLM

이 해당 토큰을 생성할 수 있어야 하기 때문이다.

LLM

이

2025

년 이전의 텍스트

만 학습했다면, ‘교황 레오

14

세’

8

와 관련된 토큰은 등장할 확률이 너무 낮아서 후보 토큰이 될

가능성이 거의 없다. 제

2

장의

스타일 전이

패턴에서 이야기한 퓨샷 학습이나 미세조정도 마찬

가지이다. 과거에 팀을 바꾼

NFL

선수에 관한 예시 몇 개를 보여 주는 것만으로는

LLM

이 “지

노 스미스가 팀을 바꿔 레이더스에서 뛰게 되었다”라는 내용의 텍스트를 생성하기에 불충분하

다. 마찬가지로

LLM

은 지시사항 미세조정을 통해 수정될 수 있는 가중치들을 생성해야 하는

데,

LLM

이 한 번도 접해보지 못한 토큰 조합에 대해서는 그런 가중치들이 나올 수 없다. 이를

위해서는 구체적인 자료점

data

point

들이 필요한데, 그런 자료점들을 제공할 수 있는 ...