파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

4

장

데이터 표현과 특성 공학

273

이 작업은 소득(

income

)이 <=

50k

와 >

50k

라는 두 클래스를 가진 분류 문제로 볼 수 있습니

다. 정확한 소득을 예측할 수도 있지만, 그러면 회귀 문제가 됩니다. 그러나 이는 훨씬 어렵기

도 하고

5

만 달러 기준만으로도 재미있는 문제입니다.

이 데이터셋에 있는

age

와

hours

-

per

-

week

는 우리가 다뤄본 연속형 특성입니다. 그런데

workclass

,

education

,

sex

,

occupation

은 범주형 특성입니다. 이런 특성들은 어떤 범위가

아닌 고정된 목록 중 하나를 값으로 가지며, 정량적이 아니고 정성적인 속성입니다.

맨 먼저 이 데이터에 로지스틱 회귀 분류기를 학습시켜보겠습니다.

2

장에서 배운 것처럼 로지

스틱 회귀는 다음 공식을 사용하여

ˆ

y

을 예측합니다.

[] [] [] [] ...[][]y wx wx wxppb00 11 0×× × >

=+++ +

t

여기서

w

[

i

]와

b

는 훈련 세트로부터 학습되는 계수이고

x

[

i

]는 입력 특성입니다. 이 공식에서

x

[

i

]는 숫자여야 하므로

x

[

2

]가 “

Masters

”나 “

Bachelors

”가 될 수 없습니다. 그러므로 로지스

틱 회귀를 사용하려면 데이터를 다른 방식으로 표현해야 합니다. 다음 절에서 이 문제를 어떻

게 해결할 수 있는지 설명하겠습니다.

4.1.1

원-핫-인코딩(가변수)

범주형 변수를 표현하는 데 가장 널리 쓰이는 방법은

원-핫-인코딩

one

-

hot

-

encoding

입니다. 이를

원-아웃-오브-엔 인코딩

one

-

out

-

of

-

N

encoding ...