밑바닥부터 시작하는 데이터 과학 데이터 분석을 위한 파이썬 프로그래밍과 수학·통계 기초

Data Science

116

󻱴󽴔󽴔󺆌󻕻󽴔󼨧󺃤󻅤

"""v

에서

step

_

size

만큼

이동하기

"""

assert len(v) == len(gradient)

step = scalar

_

multiply(step

_

size, gradient)

return add(v, step)

def sum

_

of

_

squares

_

gradient(v: Vector) -> Vector:

return [2 * v

_

i for v

_

i in v]

#

임의의

시작점을

선택

v = [random.uniform(-10, 10) for i in range(3)]

for epoch in range(1000):

grad = sum

_

of

_

squares

_

gradient(v) # v

의

그래디언트

계산

v = gradient

_

step(v, grad, -0.01) #

그래디언트의

음수만큼

이동

print(epoch, v)

assert distance(v, [0, 0, 0]) < 0.001 # v

는

0

에

수렴해야

한다

.

이 코드를 실행하면

v

값이 매번

[0,0,0]

에 아주 가깝게 수렴하는 것을 볼 수 있

다. 코드를 더 오랫동안 반복하면 할수록 더 가까이 수렴한다.

8.4

적절한 이동 거리 정하기

경사를 따라 이동한다는 논리는 명백하지만 이동 거리(

step

size

), 즉 얼마만큼

이동해야 하는지 정하는 것은 그렇지 않다. ...