October 2024
Beginner to intermediate
340 pages
7h 38m
Korean
Content preview from 밑바닥부터 시작하는 딥러닝 5
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
Start your free trial
141
5
장
EM 알고리즘
E
-스텝
각
n
,
k
에 대해 다음 값을 계산합니다.
M
-스텝
(다음 절에서 알아봅니다.)
종료 판정
다음 로그 가능도를 계산하여 이전 로그 가능도와 비교합니다.
5.4.2
EM
알고리즘의
M
-스텝
이제
M
-스텝이 남았습니다.
M
-스텝에서는
q
(
n
)
을 고정하고 를 갱신합니다.
구체적으로
ELBO
를 최대화하는 매개변수를 구합니다.
ELBO
는 다음 식으로 표현합니다.
와는 무관
142
밑바닥부터 시작하는 딥러닝 5
여기서 주목할 점은 두 번째 항에 매개변수인 가 포함되어 있지 않다는 사실입니다.
M
-스텝은
ELBO
를 최대화하기 위한 를 찾는 것이 목적이므로 두 번째 항은 무시
할 수 있습니다. 따라서 목적 함수(=최대화할 대상)를 로 표기하면 다음처럼 표현
할 수 있습니다.
그럼 가 최대가 되는 매개변수를 구해봅시다.
GMM
에는 라는 세 가지
매개변수가 있습니다. 부터 시작합시다.
GMM
의 매개변수
는
K
개의 로 구성됩니다. 여기서는
k
번째
에 대한 미분(기울기 )을 구합니다. 식을 다음처럼 전개할 수 있습니다.
에 대해 미분하면 를 포함하지 않는 항은