개발자를 위한 필수 수학

180

개발자를 위한 필수 수학

5.3.1

닫힌 형식 방정식

정확한 계산으로 선형 회귀를 풀 수 있는 (

닫힌 형식 방정식

closed

form

equation

이라 부르는) 공식이

있는지 궁금할지 모릅니다. 정답은 ‘예’입니다. 하지만 입력 변수가 하나인

단순 선형 회귀

simple

linear

regression

의 경우에만 이 공식을 활용할 수 있습니다. 입력 변수가 여러 개이고 대량의 데이

터를 다루는 많은 머신러닝 문제에서는 이 방식이 통하지 않습니다. 선형대수학의 기법을 활용

할 수도 있는데 이에 대해서는 곧 설명하겠습니다. 또한 확률적 경사 하강법과 같은 알고리즘

에 대해서도 살펴볼 예정이니 조금만 기다려주세요.

입력 변수와 출력 변수가 하나뿐인 단순 선형 회귀에서

m

과

b

를 계산하는 닫힌 형식 방정식은

다음과 같습니다. [예제

5

-

5

]에서 파이썬을 사용해 이 계산을 수행합니다.

22

()

n xy x y

m

nx x

yx

bm

nn

−

=

−

= −

∑ ∑∑

∑∑

∑∑

예제

5-5

단순 선형 회귀에서

m

과

b

계산하기

import

pandas

as

pd

# 데이터를 로드합니다.

points

=

list(pd.read_csv('https://bit.ly/2KF29Bd',

delimiter=",").itertuples())

n

=

len(points)

m

=

(n*sum(p.x*p.y

for ...