그림으로 배우는 생성형 AI

1132

장 생성형 AI의 활용

생성이나 사실 관계 정보 전달처럼 훈련 데이터와 최

대한 일치하는 결과를 생성해야 할 때는 온도를

0

.

1

처럼 낮게 잡는 것이 바람직합니다

.

반대로 좀 더

‘

창의적인

’

결과를 원한다면 온도를 높

여야 하지요

.

온도가 높으면 평범하고 보편적인 단어

들의 등장 확률이 낮아지고 잘 안 쓰이는 단어들이 조

합될 가능성이 높아집니다

.

따라서 브레인스토밍

,

시

나 에세이 저술 등 창의적인 목적으로는 온도를 높게

(

0

.

8

등

)

잡는 것이 권장됩니다

.

8

이처럼 온도 값을 조절함으로써 익숙한 표현 위주로

안정감 있는 텍스트를 생성할 수도 있고 반대로 다양

하고 창의적인 어휘가 골고루 쓰인 텍스트를 생성할

수도 있습니다

.

상위 K

LLM

이 평범하고 진부한 텍스트 대신 창의적인 텍스

트를 생성하게 하려고 온도를 높게 설정하면 종종 너

무 엉뚱한 단어가 생성되곤 합니다

.

온도를 아무리 잘

조절해도 이런 문제에서 완전히 벗어나기는 어렵습니

다

.

온도를 낮추면 희귀한 단어가 덜 나오긴 하지만

,

아예 등장하지 않게 할 수는 없지요

.

이럴 때는 후보 단어 개수에 명시적으로 상한선을 두

는 상위

K

top

-

K

생성 방식이 유용합니다

.

이 방식에서

는 예를 들어

K

값을

4

로 정하면 단계마다 등장 확률

이 가장 높은 단어 네 개만 고려해서 후보 구절들을

만듭니다

(

그림

2

-

19

). ...