실무로 통하는 LLM 애플리케이션 설계

258

2

부

LLM 활용하기

전체 코드는 책의 깃허브 저장소

4

를 참조하세요. 다음으로

LLM

의 주요 한계인 환각 현상과 이

를 탐지하고 완화하는 기법을 살펴보겠습니다.

8.3

환각

LLM

의 대표적인 한계인 환각 현상을 살펴보며 이를 탐지하고 완화하는 데 사용하는 기법들도

함께 알아보겠습니다. 일상적으로 환각이라는 말은

LLM

이 잘못된 정보를 생성하는 현상을 지

칭할 때 사용합니다. 그러나

LLM

이 오류를 일으키는 원인은 매우 다양합니다. 이 책에서는 환

각을 ‘

LLM

이 생성한 텍스트가 훈련 데이터나 입력 문맥에 기반하지 않을 때, 이를 환각이라고

한다’라는 조금 더 좁은 의미로 정의합니다.

즉, 모델이 사전 훈련이나 파인 튜닝 과정에서 학습한 정보나, 사용자로부터 입력받은 맥락과

일관되지 않은 내용을 생성하면 이를 환각이라고 정의합니다. 이러한 환각은 일반적으로 사실

에 근거하지 않은 텍스트로 나타납니다. 모델이 환각을 줄이려면 자신이 알지 못하는 사실이나

개념에 대해서는 모른다고 할 수 있어야 합니다.

다음은 환각의 전형적인 사례로, 누스리서치

NousResearch

의

Hermes

LLM

5

에 입력한 프롬프트와

그에 대한 응답입니다.

프롬프트:

2020년 올림픽에서 우간다 선수들이 획득한 메달 내역과 생년월일을 목록 형식으로 알려

주세요.

응답:

조슈아 체프테게이

Joshua ...