Generatives Deep Learning, 2. Auflage

Kapitel 7. Energie-basierte Modelle

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Kapitel Ziele

In diesem Kapitel lernst du:

• Verstehe, wie du ein tiefes energiebasiertes Modell (EBM) formulieren kannst.

• Hier erfährst du, wie du mit Hilfe der Langevin-Dynamik eine Probe aus einem EBM ziehen kannst.

• Trainiere deinen eigenen EBM mit kontrastiver Divergenz.

• Analysiere den EBM, indem du dir Schnappschüsse des Langevin-Dynamik-Sampling-Prozesses ansiehst.

• Erfahre mehr über andere Arten von EBM, wie z.B. eingeschränkte Boltzmann-Maschinen.

Energiebasierte Modelle sind eine breite Klasse generativer Modelle, die eine Schlüsselidee aus der Modellierung physikalischer Systeme übernehmen - nämlich, dass die Wahrscheinlichkeit eines Ereignisses durch eine Boltzmann-Verteilung ausgedrückt werden kann, eine spezifische Funktion, die eine reellwertige Energiefunktion zwischen 0 und 1 normalisiert. Diese Verteilung wurde ursprünglich 1868 von Ludwig Boltzmann formuliert, der sie zur Beschreibung von Gasen im thermischen Gleichgewicht verwendete.

In diesem Kapitel werden wir sehen, wie wir diese Idee nutzen können, um ein generatives Modell zu trainieren, mit dem wir Bilder von handgeschriebenen Ziffern erzeugen können. Wir werden mehrere neue Konzepte erforschen, darunter die kontrastive Divergenz für das Training des EBM und die Langevin-Dynamik für das Sampling.

Einführung

Wir werden mit ...