Praxiseinstieg Machine Learning mit Scikit-Learn, Keras und TensorFlow, 3rd Edition

KAPITEL 11

Trainieren von Deep-Learning-Netzen

In Kapitel 10 haben Sie Ihre ersten künstlichen neuronalen Netze gebaut, trainiert und optimiert. Es waren aber sehr flache Netze mit nur wenigen verborgenen Schichten. Wie lässt sich eine komplexe Aufgabe wie das Erkennen Hunderter Gegenstände in hochauflösenden Bildern angehen? Dazu müssen Sie ein weitaus tieferes ANN mit zehn oder noch viel mehr Schichten aus jeweils Hunderten Neuronen und Hunderttausenden Verbindungen trainieren. Das wird kein Spaziergang, und die folgenden sind nur ein paar der Probleme, denen Sie sich gegenübersehen könnten:

• Es tritt eventuell das Problem kontinuierlich wachsender oder schwindender Gradienten auf, während man sich beim Training rückwärts durch das DNN bewegt. ...