밑바닥부터 시작하는 딥러닝 5

64

밑바닥부터 시작하는 딥러닝 5

‘곱의 로그’는 ‘로그들의 합’

로그를 계산할 때는 다음 식이 성립합니다 (

a

와

b

는

0

이상의 실수).

이 공식을 이용하면

log

p

(

D

;

i

)

를 계산하기 쉬워집니다. 잠시 후

2

.

3

.

3

절에서 활용합니다.

곧이어 로그 가능도를 최대화하는 방법을 살펴볼 텐데, 그전에 간단한 함수를 예로 들어 최댓

값을 구하는 방법을 살펴보겠습니다.

2.3.2

미분을 사용하여 최댓값 찾기

이번 절에서는 다음 함수를 대상으로

y

를 최대화하는

x

의 값을 구합니다.

최댓값을 구할 때 중요한 것은 미분입니다.

y

의

x

에 대한 미분은 로 표현하며, 계산하면 다음

과 같습니다.

이로부터 임의의

x

에 대한 미분을 계산할 수 있습니다. 예를 들어

x

=

0

일 때의 미분은

3

입니

다.

x

=

0

에서

x

를 미세한 값

d

만큼 변화시키면

y

는

3

d

만큼 변한다는 뜻입니다. 이처럼 미분은

임의의

x

에서

y

가 변하는 비율을 말합니다. 즉, [그림

2

-

7

]과 같이 미분은 접선의 기울기에 해

당합니다.

65

2

장

최대 가능도 추정

그림

2-7

미분과 접선의 기울기

접선의 기울기:

접선의 기울기:

그림에서 알 ...