밑바닥부터 시작하는 딥러닝

57

2

장

-

퍼셉트론

그림

2-8

곡선이라면 ○과 △을 나눌 수 있다.

퍼셉트론은 직선 하나로 나눈 영역만 표현할 수 있다는 한계가 있습니다. [그림

2

-

8

] 같은 곡

선은 표현할 수 없다는 것이죠. 덧붙여서 [그림

2

-

8

]과 같은 곡선의 영역을

비선형

영역, 직선

의 영역을

선형

영역이라고 합니다. 선형, 비선형이라는 말은 기계학습 분야에서 자주 쓰이는

용어로, [그림

2

-

6

]과 [그림

2

-

8

] 같은 이미지를 떠올리시면 됩니다.

2.5

다층 퍼셉트론이 출동한다면

안타깝게도 퍼셉트론으로는

XOR

게이트를 표현할 수 없었습니다. 그렇다고 슬퍼할 필요는 없

습니다. 사실 퍼셉트론의 아름다움은 ‘층을 쌓아’

다층 퍼셉트론

multi

-

layer

perceptron

을 만들 수 있다는

데 있습니다. 이번 절에서는 층을 하나 더 쌓아서

XOR

를 표현해볼 것입니다. ‘층을 쌓는다’는

말의 뜻은 잠시 뒤에 살펴보기로 하고, 우선은

XOR

게이트 문제를 다른 관점에서 생각해보기

로 합시다.

2.5.1

기존 게이트 조합하기

XOR

게이트를 만드는 방법은 다양합니다. 그중 하나는 앞서 만든

AND

,

NAND

,

OR

게이트

를 조합하는 방법입니다. 여기에서는

AND

,

NAND

,

OR

게이트를 [그림

2

-

9

]와 같은 기호로

58

밑바닥부터 시작하는 딥러닝

표기합니다. 참고로 [그림

2