AI를 위한 필수 수학

333

Chapter 8 -

확률적 생성 모델

정한다. 생성기는 (이론상 ) 실제 데이터 분포를 정확하게 재현할 때까지 파라미터를 조정하고

판별기의 분류가 무작위 추측보다 더 나빠지지 않게 한다.

생성기 신경망은 샘플이 훈련 데이터에서 온 것인지 모델에서 온 것인지에 관계없이 판별기가

잘못된 레이블을 할당할 확률을 최대화하려고 한다. 반면 판별기 신경망은 그 확률을 최소화하

려고 한다. 이는 한 플레이어의 이득이 다른 플레이어의 손실이 되는

2

인 제로섬 게임이다. 결

국 순수한 최대화 또는 최소화가 아닌 최대 최소 문제

minimax

problem

를 풀게 된다. 그리고 여기에

는 독특한 해결 방법이 존재한다.

8.11.1

적대적 생성 신경망은 어떻게 작동할까?

데이터에 대해 생성기의 확률 분포

,px

g

i

v

v

R

W

를 학습한다는 목표를 유지하면서 적대적 생성 신

경망의 학습이 진행되는 방식은 다음과 같다.

1

사전 확률 분포

pz

z

v

Q

V

에서 추출한 랜덤 샘플

z

v

에서 시작한다. 이

z

v

의 각 구성 원소는 균일한 랜덤 노이즈

일 수 있다.

2

훈련 데이터에서도 무작위로 샘플

x

v

를 추출하여 시작한다. 생성기가 학습하려는 것은 확률 분포

px

data

v

Q

V

의 샘플이다.

3

z

v

에 생성 신경망을 의미하는 결정론적 함수

,Gz

g

i

v

v

R

W

를 적용한다. 파라미터

i

g

는 출력

,Gz

g

i

v

v

R

W

가 훈련 데

이터 샘플과 유사해질 때까지 역전파를 통해 조정해야 할 대상이다.

4

판별기 신경망을 의미하는 결정론적 함수

D

에 출력

,Gz

g

i

v

v

R

W

를 전달한다. 새로운 ...