Uczenie głębokie od zera

Rozdział 6. Rekurencyjne sieci neuronowe

W tym rozdziale omawiam rekurencyjne sieci neuronowe (ang. recurrent neural networks — RNN). Jest to rodzaj architektury sieci neuronowych przeznaczony do obsługi sekwencji danych. Sieci neuronowe omawiane do tej pory traktują każdą porcję danych jako zbiór niezależnych obserwacji. Nie uwzględniają tego, czy niektóre cyfry z bazy MNIST pojawiają się przed innymi lub po nich. Jest tak zarówno w gęstych sieciach neuronowych opisanych w rozdziale 4., jak i w sieciach CNN omówionych w rozdziale 5. Jednak wiele rodzajów danych z natury ma określoną kolejność. Dotyczy to na przykład szeregów czasowych, z którymi można się zetknąć w branży przemysłowej lub finansowej, oraz danych językowych, gdzie znaki, słowa, ...