밑바닥부터 시작하는 딥러닝 5

300

밑바닥부터 시작하는 딥러닝 5

정규 분포의 평균 벡터에 대한 미분

[식

A

.

5

]에

N

=

1

을 대입하면 다음 식을 얻을 수 있습니다.

[식 A.6]

이 식은 가우스 혼합 모델의 해석적 해를 구할 때 사용합니다.

A.2

2차 형식의 미분([식

A

.4]의 증명)

여기서는 다음 식을 증명합니다.

[식 A.4]

우선 더 단순한 문제인

z

<

Az

를 생각해봅니다. 여기서

z

는

D

차원 열 벡터이며

A

는

D

×

D

행

렬로 가정합니다(

z

는

D

×

1

행렬로 취급할 수 있습니다). 이때

z

<

Az

를 ‘이차 형식’이라고 합

니다.

z

<

Az

의 결과는 [그림

A

-

1

]에서 볼 수 있듯이

1

×

1

행렬입니다.

1

×

1

행렬이므로 스

칼라로 볼 수 있습니다.

그림

A-1

z

<

Az = a

의 각 행렬의 형상

형상:

A

의

i

행

j

열의 원소를

a

ij

로 표현하겠습니다. 실제로

A

의 원소들을 적어보면 다음과 같습니다.

301

부록

A

다변량 정규 분포의 최대 가능도 추정법 도출

이때

z

<

Az

는 다음 식으로 표현할 수 있습니다.

다음으로

z

<

Az

의

z

에 대한 미분을 구합니다. 그러려면

k

번째 원소

z

k

에 대한 미분을 구합니 ...