개발자를 위한 필수 수학

255

7

장

신경망

7

장

신경망

지난

10

년간 르네상스를 누려온 회귀 및 분류 기법은

신경망

neural

network

입니다. 간단하게 정의

하면, 신경망은 입력 변수와 출력 변수 사이에 가중치, 편향,

1

비선형 함수로 이루어진 층을 쌓

아 구성합니다.

딥러닝

deep

learning

은 신경망의 한 종류이며 가중치와 편향을 가진 노드

node

로 구

성된 여러 개의

은닉

hidden

(또는 중간 ) 층을 사용합니다.

2

각 노드는 비선형 함수 (활성화 함수

activation

function

라고 함)를 통과하기 전에는 선형 함수와 유사합니다.

5

장에서 배운 선형 회귀와

마찬가지로 확률적 경사 하강법과 같은 최적화 기법을 사용해 잔차를 최소화하는 최적의 가중

치와 편향을 찾습니다.

신경망은 이전에 컴퓨터로 해결하기 어려웠던 문제에 대해 흥미로운 해결책을 제공합니다. 이

미지 속 사물을 식별하는 것부터 오디오에 담긴 단어를 처리하는 것까지, 신경망은 우리의 일

상에 영향을 미치는 도구를 만들어냈습니다. 여기에는 가상 비서와 검색 엔진은 물론 아이폰의

사진 앱도 포함됩니다.

신경망에 대한 언론의 과대광고와 뉴스 헤드라인을 장식하는 기사를 살펴보면 신경망이

1950

년대부터 사용되어 왔다는 사실에 놀랄 수도 있습니다.

2010

년 이후 갑자기 인기를 끌게 된 이

유는 가용한 데이터와 컴퓨팅 ...