AI를 위한 필수 수학

331

Chapter 8 -

확률적 생성 모델

여부를 알 수 있는 명확한 방법이 없다. 이로 인해 마르코프 방법은

ImageNet

생성 문제로 확

장 적용되지 않았다.

마르코프 체인은 시스템의 특정 상태에서 다른 상태로 전이할 확률을 나타내는 전이 연산자

q

를 가지고 있다. 이 전이 연산자

q

는 명시적으로 정의되어 있어야 한다. 이제 전이 연산자

q

에

따라 순차적으로

x

l

를 업데이트하면서

x qx x

+

ll

Q

V

에서 반복적으로 추출하여 데이터 샘플을

생성할 수 있다. 이렇게 순차적인 생성은 단일 단계 생성과 비교했을 때 또 다른 단점이 되기도

한다. 다만 마르코프 체인 방법은 수렴이 느릴 수 있지만

x

l

가 결국

px

model

Q

V

의 샘플로 수렴하

게 된다는 것을 보장할 수 있다.

참고로 심층 볼츠만 머신과 같은 일부 모델은 마르코프 체인과 변분 근사

variational

approximation

를

모두 사용하기도 한다.

8.10

암시적 밀도 - 마르코프 체인: 확률적 생성 모델

확률적 생성 모델

generative

stochastic

network

(

Bengio

et

al

.

2014

186

)은 밀도 함수를 명시적으로 정

의하지 않고 훈련 데이터에서 샘플링함으로써

px

model

Q

V

와 간접적으로 상호 작용하는 마르코프

체인 전이 연산자를 사용한다. 여기서 마르코프 체인