AI를 위한 필수 수학

329

Chapter 8 -

확률적 생성 모델

변환

g

가 반드시 가역적이어야 한다는 조건은 잠재 변수

s

v

가 데이터 피처와 동일한 차원 (즉,

x

v

의 길이 )을 가져야 한다는 것을 의미한다. 이는 함수

g

의 선택에 제약을 가하며, 비선형 독립

구성 요소 분석 모델의 단점 중 하나다.

이에 비해 적대적 생성 신경망은

g

에 대해 매우 적은 요구 사항을 전제로 한다. 특히

s

v

가

x

v

보다

더 많은 차원을 가질 수 있도록 허용한다.

8.8

명시적 밀도 - 추적 불가능: 변분 오토인코더의 변분법을 통

한 근사화

결정론적 오토인코더

deterministic

autoencoder

에는 데이터를

x

공간에서 더 낮은 차원의 잠재 공간

z

로 매핑하는 인코더

encoder

와

z

공간에서

x

t

공간으로 데이터를 되돌리는 디코더

decoder

로 구성

된다. 이때의 목표는 많은 정보를 잃지 않거나 재구성될 때 그 오류를 줄이는 것이다. 예를 들

어 유클리드 거리 개념에서

x

와

x

t

이 가까워지도록 하는 것을 의미한다. 이러한 의미에서 특이

값 분해에 기반한 주성분 분석

X

=

U

/

V

t

를 선형 인코더로 볼 수 있으며, 디코더는 단순히 인

코딩 행렬의 전치다. 인코딩 및 디코딩 함수는 비선형이거나 신경망일 수 있다.

결정론적 오토인코더에서는 디코더를 데이터 생성기로 사용할 수 없다. 만약 생성기로 ...