Generatives Deep Learning, 2. Auflage

Kapitel 5. Autoregressive Modelle

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

Kapitel Ziele

In diesem Kapitel lernst du:

• Erfahre, warum autoregressive Modelle gut geeignet sind, um sequentielle Daten wie Text zu erzeugen.

• Lerne, wie du Textdaten verarbeitest und tokenisierst.

• Lerne die Architektur von rekurrenten neuronalen Netzen (RNNs) kennen.

• Baue und trainiere mit Keras ein Netzwerk mit Langzeitgedächtnis (LSTM) von Grund auf.

• Verwende das LSTM, um neuen Text zu erzeugen.

• Erfahre mehr über andere Varianten von RNNs, darunter Gated Recurrent Units (GRUs) und bidirektionale Zellen.

• Verstehen, wie Bilddaten als eine Folge von Pixeln behandelt werden können.

• Erfahre, wie ein PixelCNN aufgebaut ist.

• Baue ein PixelCNN von Grund auf mit Keras.

• Verwende das PixelCNN, um Bilder zu erzeugen.

Bisher haben wir zwei verschiedene Familien von generativen Modellen untersucht, die beide latente Variablen einbeziehen - Variationale Autokoder (VAEs) und generative adversarische Netzwerke (GANs). In beiden Fällen wird eine neue Variable mit einer Verteilung eingeführt, aus der sich leicht Stichproben ziehen lassen, und das Modell lernt, wie es diese Variable wieder in den ursprünglichen Bereich zurückdekodieren kann.

Wir werden uns nun autoregressiven Modellenzuwenden - einerFamilie von Modellen, die das generative Modellierungsproblem vereinfachen, indem sie es als einen sequentiellen ...