October 2024
Beginner to intermediate
340 pages
7h 38m
Korean
Content preview from 밑바닥부터 시작하는 딥러닝 5
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
Start your free trial
130
밑바닥부터 시작하는 딥러닝 5
log
p
i
(
x
)
가 복잡한 이유는, 다시 말하지만 다음 식과 같이 로그-합 형태이기 때문입니다.
로그-합을 풀기 위해 먼저 확률의 곱셈 정리를 이용해 표현해봅시다.
언뜻 보면 로그-합을 해결한 듯 보이지만 조건부 확률
p
i
(
z
|
x
)
가 골칫거리입니다. 왜냐하면
p
i
(
z
|
x
)
는 베이즈 정리에 따라 다음 식으로 표현되기 때문입니다.
이 식의 분모에 , 즉 합이 등장하므로
log
p
i
(
x
)
는 여전히 로그-합 형태입니다.
5.2.2
임의의 확률 분포
q
(
z
)
이 문제를 해결하기 위해
q
(
z
)
를 등장시킵니다.
q
(
z
)
는 임의의 확률 분포로서 문제가 되는
p
i
(
z
|
x
)
의 근사 분포로 사용합니다. 임의의 확률 분포라고 함은 ‘어떤 확률 분포라도 상관없다’는
뜻입니다 (그림
5
-
5
).
그림
5-5
문제의
p
i
(
z
|
x
)
와 그 대신 쓰이는
q
(
z
)
p
i
(
z
|
x
)
대신
q
(
z
)
를 사용하기 위해 다음과 같이 식을 확장합니다.
131
5
장
EM 알고리즘
을 곱한다.
이 식과 같이 을 곱하는 형태로
q
(
z
)
를 도입합니다 (
1
을 곱해도 식은 변하지 않습니
다)