실무로 통하는 LLM 애플리케이션 설계

268

2

부

LLM 활용하기

러한 접근법은 지연 시간이 주요 고려 사항이 아닌 경우에만 사용해야 합니다.

지식 가림

지식 가림

Knowledge

overshadowing

은 환각의 또 다른 잠재적 원인입니다. 장 연구진

15

의 실험에서는

LLM

이 동시에 여러 조건을 충족해야 하는 복잡한 질문을 받았을 때 그중 한 조건이 나머지를 가

려서 틀린 답을 만들어 낸다고 밝혔습니다.

예를 들어 다음 프롬프트와 응답을 살펴보죠.

프롬프트: 여성 킥복싱 파이터의 이름을 알려 주세요.

응답: 유명한 여성 킥복싱 선수 중 한 명은 부아카오 반차멕

Buakaw Banchamek

으로, 킥복

싱과 무에타이 모두에서 수많은 타이틀을 따낸 태국 파이터입니다.

부아카오는 여성이 아닌 남성 킥복싱 선수입니다. 여기서 생성은 두 가지 요소인 여성 파이터와

킥복싱 선수로 조건화되었지만, 킥복싱 선수 조건이 여성 조건을 가려서 환각을 초래했습니다.

장 연구진은 이러한 가림 현상이 훈련 데이터의 불균형 때문에 발생한다고 설명합니다. 또한 불

균형률이 증가할수록 환각률도 증가한다는 것을 입증했습니다.

8.6

관련 없는 정보로 인한 환각

질문과 관련 없는 정보가 문맥에 포함되면 언어 모델의 환각을 유발할 수 있습니다. 다음은 그

예시입니다.

프롬프트: 인디애나의 수도인 인디애나폴리스는 박물관, 극장, 스포츠 이벤트(특히 ...