Generative Deep Learning, 2a edizione

Capitolo 5. Modelli autoregressivi

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

Obiettivi del capitolo

In questo capitolo scoprirai:

• Scopri perché i modelli autoregressivi sono adatti a generare dati sequenziali come quelli del testo.

• Scopri come elaborare e tokenizzare i dati di testo.

• Scopri la progettazione architettonica delle reti neurali ricorrenti (RNN).

• Costruisci e addestra una rete a memoria a breve termine (LSTM) da zero utilizzando Keras.

• Usa l'LSTM per generare un nuovo testo.

• Scopri le altre varianti delle RNN, tra cui le unità ricorrenti gated (GRU) e le cellule bidirezionali.

• Capire come i dati delle immagini possano essere trattati come una sequenza di pixel.

• Scopri il design architettonico di una PixelCNN.

• Costruisci una PixelCNN da zero usando Keras.

• Usa PixelCNN per generare immagini.

Finora abbiamo esplorato due diverse famiglie di modelli generativi che hanno coinvolto variabili latenti: gli autoencoder variazionali (VAE) e le reti generative avversarie (GAN). In entrambi i casi, viene introdotta una nuova variabile con una distribuzione facile da campionare e il modello impara a decodificare questa variabile nel dominio originale.

Ora ci occuperemo dei modelli autoregressivi , unafamiglia di modelli che semplificano il problema della modellazione generativa trattandolo come un processo sequenziale. I modelli autoregressivi condizionano le ...