October 2024
Beginner to intermediate
340 pages
7h 38m
Korean
Content preview from 밑바닥부터 시작하는 딥러닝 5
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
Start your free trial
309
부록
B
옌센 부등식
이번 부록에서는 옌센 부등식에 대해 설명합니다. 또한 옌센 부등식을 이용하여
ELBO
를 도출
할 수 있음을 알아보겠습니다 (
5
.
2
절에서는 이번 부록과는 다른 방법으로
ELBO
를 도출했습니
다).
B.1
볼록 함수와 옌센 부등식
옌센 부등식은 볼록 함수의 성질을 나타내는 식입니다.
f
(
x
)
가
볼록 함수
convex
function
라는 것은
f
(
x
)
의 모든 할선이 함수 이상이라는 뜻입니다. 할선이란 [그림
B
-
1
]과 같이 함수에서 임의의
두 점을 이은 선분입니다.
그림
B-1
함수와 할선
할선
옌센 부등식
APPENDIX
B
310
밑바닥부터 시작하는 딥러닝 5
수식으로는 어떻게 표현할까요? 임의의 두 점
x
1
,
x
2
에 대해 가
[
0
,
1
]
사이에서 다음 조건이
성립할 때 볼록 함수라고 합니다.
[식 B.1]
[식
B
.
1
]의 는 점
x
1
과
x
2
사이를 비율로 내분하는 점을 뜻합니
다. 마찬가지로 는 점
f
(
x
1
)
과
f
(
x
2
)
사이를 비율로 내분
하는 점입니다. [그림
B
-
2
]는 이를 시각화한 모습입니다.
그림
B-2
내분점 위치
이 내분점 관계를 파악하면 볼록 ...