실무로 통하는 LLM 애플리케이션 설계

199

5

장

사용 목적에 맞게 LLM 활용하기

5.7

모델 디버깅 및 해석 가능성

이제

LLM

을 불러오고 텍스트를 생성하는 방법에 익숙해졌으니, 모델이 어떻게 작동하는지 이

해하고 실패한 예시들을 분석해 볼 차례입니다.

LLM

분야에서는 해석 가능성이 여전히 다른

머신러닝 분야보다 부족한 편이지만, 입력값을 미세하게 바꿨을 때 출력이 어떻게 달라지는지

를 살펴보거나 트랜스포머 아키텍처 내에서 입력이 전파되는 과정의 중간 출력을 분석함으로

써 어느 정도 이해할 수 있습니다.

구글의 오픈 소스 도구인

LIT

-

NLP

59

는 모델 동작을 시각화하고 다양한 디버깅 워크플로를 지

원하는 유용한 도구입니다. [그림

5

-

10

]은 요약 작업을 수행하는

T5

모델에 대해

LIT

-

NLP

가

해석 가능성을 제공하는 예시입니다.

그림

5-10

LIT

-

NLP

LIT

-

NLP

의 대표 기능은 다음과 같습니다.

●

어텐션 메커니즘 시각화

●

주목도 맵

salience map

: 모델이 입력 중에서 가장 주의를 기울인 부분을 시각적으로 표시함

●

임베딩 시각화

●

반사실적 분석

counterfactual analysis

: 토큰을 추가하거나 제거하는 등의 입력 변경 후 모델 동작이 어떻게 변하는지

보여줌

59

https

://

pair

-

code

.

github

.

io

/

lit

/

200

2

부

LLM 활용하기

연습 문제 ...