Praxiseinstieg Machine Learning mit Scikit-Learn, Keras und TensorFlow, 2nd Edition
by Aurélien Géron
Schnellere Optimierer
Das Trainieren eines sehr großen Deep-Learning-Netzes kann nervtötend langsam sein. Wir haben bisher vier Möglichkeiten betrachtet, um das Trainieren zu beschleunigen (und die Lösung zu verbessern): eine geeignete Initialisierungsstrategie für die Gewichte der Verbindungen zu nutzen, die Aktivierungsfunktion sinnvoll zu wählen, Batchnormalisierung zu verwenden und Teile eines vortrainierten Netzes einzusetzen (eventuell gebaut für eine künstliche Aufgabe oder per unüberwachtes Lernen). Eine weitere deutliche Beschleunigung lässt sich durch Verwenden eines schnelleren Optimierers anstelle des gewöhnlichen Gradientenverfahrens erzielen. In diesem Abschnitt stellen wir die verbreitetsten Verfahren vor: Momentum Optimization, ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access