순환 구조를 이해하기 위해 먼저 지금까지 본 모델의 한계를 생각해 보죠. 궁극적으로 모델을
만드는 과정은 [그림
7
-
1
]과 비슷합니다. 데이터와 레이블을 제공하고 모델 구조를 정의합니
다. 모델은 데이터를 레이블에 매핑하는 규칙을 학습합니다. 이 규칙은 미래 데이터에 대한 레
이블을 예측할 수 있는
API
로 제공됩니다.
모델
데이터
규칙
레이블
그림
7-1
고수준에서 본 모델 생성 과정
하지만 여기서 보듯이 데이터는 한 번에 처리됩니다. 세분화가 일어나지 않으며 데이터 발
생 순서를 이해하려는 노력도 없습니다. 즉 ‘
today
I
am
blue
,
because
the
sky
is
gray
’와
‘
today
I
am
happy
,
and
there
’
s
a
beautiful
blue
sky
’ 같은 문장에서 ‘
blue
’와 ‘
sky
’ 단어
가 가진 다른 의미를 고려하지 않는다는 뜻입니다.
1
사람은 이 단어의 의미를 명확히 구분해서
사용하지만 지금까지 본 모델 구조에서는 단어의 의미를 구분하지 못합니다.
이 문제를 어떻게 해결할 수 있을까요? 먼저 순환의 특징을 살펴보며 기본적인
RNN
의 작동
방식을 파악해 보겠습니다.
유명한 피보나치
Fibonacci
수열을 생각해 보죠. 이 수열에 익숙하지 않다면 [그림
7
-
2
]를 참고하
세요.
그림
7-2 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.