실무로 통하는 LLM 애플리케이션 설계

266

2

부

LLM 활용하기

대조를 추천합니다. 다만 소규모

LLM

에서는 층 간 차별화가 충분하지 않아

DoLa

의 효과를 기

대하기 어려우므로 사용을 권장하지 않습니다.

사전 훈련 중 환각 감소 유도

이 연구진

13

은 결과

LLM

이 환각을 덜 일으키도록 사전 훈련이나 지속 사전 훈련 과정을 조정하

는 방법도 제안합니다.

사전 훈련 설정에 따라 훈련 문서는 종종 청크로 나뉩니다. 그러나 이러한 문서 분할은 텍스트를

이해하는 데 필요한 문맥을 제거할 수 있습니다. 연구진은 문서 청크의 사실과 그 사실들이 연관

된 엔티티 간의 연결을 보존하기 위해 청크 앞에 주제 식별자를 추가하는 것을 제안합니다.

사전 훈련 중에는 시퀀스에서 생성된 모든 토큰에 손실이 균일하게 적용됩니다. 그러나 연구진

은 시퀀스 끝부분의 토큰이 사실성에 더 중요하다고 관찰합니다. 이는 끝부분의 내용이 이전에

생성된 내용에 의존하기 때문입니다. 따라서 연구진은 생성된 시퀀스의 후반부에 대해서만 손실

을 계산하는 문장 완성 손실

sentence

completion

loss

을 제안합니다.

8.5

인컨텍스트 환각

지금까지는 모델이 파라미터 메모리에서 생성하려는 시도에서 발생하는 환각에 초점을 맞췄습

니다. 하지만 인컨텍스트 환각

in

-

context

hallucination

, 즉 폐쇄형 환각

closed

-

book ...