18
Tiefe Netze zähmen
In gewissem Sinne sind tiefe Netze nichts Besonderes, sondern einfach nur flache neuronale Netze mit zusätzlichen Schichten. Als Forscher jedoch begannen, mit tiefen Netzen zu experimentieren, sahen Sie sich plötzlich mit einer unangenehmen Erkenntnis konfrontiert: Tiefe Netze zu erstellen, mag einfach sein, sie zu trainieren aber nicht.
Die Backpropagation in tiefen Netzen bringt ihre eigenen Herausforderungen mit, die unheilsschwangere Bezeichnungen wie »verschwindende Gradienten« und »tote Neuronen« tragen. In flachen neuronalen Netzen treten diese Probleme nur selten auf, aber in tiefen Netzen sind sie zu erwarten.
Im Laufe der Jahre haben Forscher auf dem Gebiet der tiefen Netze eine Reihe von Techniken entwickelt, ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access