밑바닥부터 시작하는 데이터 과학 데이터 분석을 위한 파이썬 프로그래밍과 수학·통계 기초

Data Science

270

󻱴󽴔󽴔󺧴󺲻󺞬

18

장에서

XOR

게이트를 위해 만들었던 신경망을 다음과 같이 만들 수 있다.

xor

_

net = Sequential([

Linear(input

_

dim=2, output

_

dim=2),

Sigmoid(),

Linear(input

_

dim=2, output

_

dim=1),

Sigmoid()

])

딥러닝 모델을 학습시키기 위해서는 아직 더 구현해야 하는 것들이 있다.

19.5

손실 함수와 최적화

지금까지는 손실 함수(

loss

function

)와 그래디언트 함수를 직접 명시하였다. 이

번에는 다양한 손실 함수를 살펴볼 것이며, 손실 함수와 그래디언트 계산을

Loss

라는 클래스로 추상화할 것이다.

class Loss:

def loss(self, predicted: Tensor, actual: Tensor) -> float:

"""

예측값이

얼마나

정확한가

? (

손실값이

크면

클수록

좋지

않은

예측값이다

.)"""

raise NotImplementedError

def gradient(self, predicted: Tensor, actual: Tensor) -> Tensor:

"""

예측값이

변하면

손실은

얼마나

변하는가

?"""

raise NotImplementedError

이미 평균제곱오차를 손실 함수로 여러 번 사용했기에 금방 만들 수 ...