개발자를 위한 필수 수학

239

6

장

로지스틱 회귀와 분류

6.5

R

2

5

장에서 선형 회귀를 설명할 때, 꽤 많은 통계 지표를 다뤘습니다. 이번 로지스틱 회귀에 대해

서도 동일한 과정을 밟아보겠습니다. 과대적합과 분산을 포함해 선형 회귀에서처럼 동일한 여

러 문제를 신경 써야 합니다. 사실 선형 회귀에서 몇 가지 지표를 빌려와서 로지스틱 회귀에 적

용할 수 있습니다. 먼저

R

2

(결정 계수 )에 대해 알아봅시다.

선형 회귀와 마찬가지로 로지스틱 회귀에도

R

2

이 있습니다.

5

장을 떠올리면

R

2

은 주어진 독립

변수가 종속 변수를 얼마나 잘 설명하는지 나타냅니다. 이를 화학 물질 노출 문제에 적용하면,

화학 물질 노출 시간이 증상 발현을 얼마나 잘 설명하는지 측정하는 것입니다.

로지스틱 회귀에서

R

2

을 계산하는 가장 좋은 방법에 대한 합의는 아직 없습니다. 하지만 유명

한 맥패든

McFadden

의 의사

pseudo

R

2

이 선형 회귀의

R

2

과 매우 유사합니다.

R

2

의 공식은 다음과 같

으며, 다음 예제에서 이 기법을 사용합니다.

2

()()

()

R

−

=

훈련전로그가능도훈련후로그가능도

훈련전로그가능도

‘훈련 전 로그 가능도’와 ‘훈련 후 로그 가능도’를 계산하는 방법을 배우면

R

2

을 계산할 수 있습

니다.

선형 회귀에서처럼 잔차를 사용할 수는 없지만, [그림

6

-

11

]과 같이 출력값을 로지스틱 곡선

에 다시 투영하면 ...