AI를 위한 필수 수학

201

Chapter 4 -

신경망을 위한 최적화

가하는 것이다. 이 목표를 이루기 위해서는 다음과 같은 질문의 답을 찾아야 한다.

특정 입력 피처 값을 조절하면 출력의 상대적인 변화는 어떻게 될까?

이 질문을 현실에서 일어날 수 있는 일에 비유해보면 다음과 같다.

특정 버스 노선에 버스를 한 대 더 추가하면 전체 버스 승객 수에 영향을 미칠까?

이 문제를 수학적으로 바꾸면 결국 미분에 관한 문제이다. 즉, 이 문제를 풀기 위해선 입력 변

수에 대한 출력의 편미분을 찾으면 된다.

모델이 선형인 경우 변수의 중요도에 관한 통계학적 문헌들 (민감도 분석 등 )을 참고해볼 수 있

다. 하지만 모델이 비선형인 경우, 특히 신경망 모델이라면 변수의 중요도에 관한 문헌들이 많

지 않다. 불행히도 비선형 모델을 기반으로 예측한 후에 선형 모델을 위해 개발된 변수 중요도

분석을 사용할 수는 없다. 많은 데이터 분석가들이 중요도 분석을 위해 내장된 소프트웨어 패

키지를 사용하다 이러한 함정에 빠지곤 한다. 이것이 바로 비즈니스 의사 결정의 기반이 되는

모델의 가정, 수학적 원리, 이론을 깊이 이해하고 있어야 하는 이유다.

정리하기

커다란 인공지능 분야에서 일부분인 딥러닝 분야로 넘어왔다.

Chapter

3

에서는 전통적이지만

여전히 매우 유용하게 활용되는 머신러닝 모델을,

Chapter ...