Machine Learning für Softwareentwickler

11

Das Netz trainieren

Im letzten Kapitel haben wir ein funktionierendes neuronales Netz geschrieben, wobei ich mit »funktionierend« meine, dass der Vorhersagecode fertig ist: Das Netz kann Daten durch das Modell schleusen und Labels ausgeben. Dafür sind allerdings Gewichtungen erforderlich, wobei wir den Code zur Ermittlung dieser Gewichtungen erst noch schreiben müssen. Das werden wir in diesem Kapitel mit der Funktion train() erledigen.

In der Frühzeit neuronaler Netze war das Training ein kniffliges Problem. KI-Experten zweifelten sogar daran, ob ein solches Training überhaupt möglich wäre. Die Antwort erhielten sie Anfang der 70er-Jahre, als Forscher eine Möglichkeit herausfanden, um den Gradienten eines Netzes mithilfe des Algorithmus der ...