AI를 위한 필수 수학

127

Chapter 3 -

데이터에 함수를 최적화시키는 방법

그림

3-14

로지스틱 함수

v

(

s

)

=

1

1

+

e

-

s

의 그래프. 이 함수는 임의의

s

에서 항상 계산될 수 있고

0

과

1

사이의 숫자

를 출력하므로 출력값을 확률로 해석할 수 있다.

따라서 여기서 훈련 함수는 피처의 선형 조합에 편향을 더하고 이를 로지스틱 함수로 구성한

다음, 임계값 함수를 적용한 것이다.

y

=

Thresh

(

v

(

w

0

+

w

1

x

1

+

…

+

w

n

x

n

))

선형 회귀와 마찬가지로

w

는 손실 함수를 최적화해서 찾아야 하는 미지수이며, 미지수의 개수

는 데이터 피처 개수에

1

을 더한 것과 같다.

1

은 편향 항 때문에 더해진 것이다. 이미지 분류

문제의 경우 이미지의 각 픽셀이 피처이므로 수천 개의 피처가 있을 수 있다.

3.4.2

손실 함수

분류 문제를 위한 좋은 손실 함수를 설계해보자. 우리는 잘못 분류된 훈련 데이터 포인트에 불

이익을 주고자 한다. 레이블이 부여된 데이터셋에서 어떤 인스턴스

63

가 특정 클래스에 속하면

y

true

=

1

, 속하지 않으면

y

true

=

0

이다.

우리는 훈련 함수가 양성 클래스에 속하는 훈련 인스턴스 (

y

true

=

1

)에 대해

y

predict

=

1

을 출력

하도록 하려고 한다. 잘 훈련된

w

값은 로지스틱 함수에 들어가기 위해 높은

t

값 (선형 조합 결