Skip to Main Content
Машинное обучение с PyTorch и Scikit-Learn
book

Машинное обучение с PyTorch и Scikit-Learn

by Sebastian Raschka, Yuxi (Hayden) Liu, Vahid Mirjalili
May 2024
Beginner to intermediate content levelBeginner to intermediate
688 pages
26h
Russian
Foliant
Content preview from Машинное обучение с PyTorch и Scikit-Learn
538 Глава 16
зависимости мини-пакета. Таким образом, в отличие от пакетной нормализации, по-
слойная нормализация способна учиться на данных с мини-пакетами небольшого размера
и различной длины. Однако обратите внимание, что исходная архитектура Transformer
не имеет входных данных переменной длины (предложения дополняются при необхо-
димости), и, в отличие от RNN, в модели нет рекуррентности. Но почему тогда вместо
пакетной нормализации применяют послойную? Трансформеры обычно обучают на
очень больших текстовых корпусах, что требует параллельных вычислений, — их бы-
вает сложно выполнить при пакетной нормализации, которая имеет зависимо ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Start your free trial

You might also like

CompTIA Network+ -- Vorbereitung auf die Prüfung N10-009

CompTIA Network+ -- Vorbereitung auf die Prüfung N10-009

Markus Kammermann

Publisher Resources

ISBN: 9786011100342