개발자를 위한 필수 수학

333

부록 A

보충 학습

# 손실이 개선되면 새로운 값을 유지하고 그렇지 않으면 원복합니다.

if

new_loss

<

best_loss:

print("y = {0}x + {1}".format(m,

b))

best_loss

=

new_loss

else:

m

-=

m_adjust

b

-=

b_adjust

print("y = {0}x + {1}".format(m,

b))

알고리즘의 진행 상황을 확인해보세요. 대략

y

=

1

.

9395722046562853x

+

4

.

7318340512

45578

인 함수를 얻습니다. 이 답을 검증해봅시다. 엑셀 또는 데스모스를 사용해 선형 회귀를

수행했을 때 데스모스는

y

=

1

.

93939x

+

4

.

73333

을 출력했습니다. 나쁘지 않네요! 꽤 유사

합니다.

왜 백만 번을 반복했을까요? 실험을 통해 해결책이 더 이상 크게 개선되지 않고

m

과

b

를 최적

값에 가깝게 수렴시켜 제곱 합을 최소화시키는 방법이 충분한 반복이라는 것을 발견했기 때문

입니다. 많은 머신러닝 라이브러리와 알고리즘에는 수행할 반복 횟수에 대한 매개변수가 있습

니다. 정확히 이와 동일한 작업을 수행합니다. 정답에 수렴할 수 있을 정도로 충분해야 하지만,

이미 허용 가능한 해를 찾았다면 계산 시간을 낭비할 정도로 오래 반복하면 안 됩니다.

또 한 가지 궁금한 점이 있을 ...