Aprendizaje profundo generativo, 2ª edición

Capítulo 5. Modelos Autorregresivos

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: [e-mail]

Objetivos del capítulo

En este capítulo:

• Aprende por qué los modelos autorregresivos son adecuados para generar datos secuenciales, como el texto.

• Aprende a procesar y tokenizar datos de texto.

• Conoce el diseño arquitectónico de las redes neuronales recurrentes (RNN).

• Construye y entrena una red de memoria a largo plazo (LSTM) desde cero utilizando Keras.

• Utiliza el LSTM para generar un nuevo texto.

• Conoce otras variaciones de las RNN, como las unidades recurrentes controladas (GRU) y las células bidireccionales.

• Comprender cómo pueden tratarse los datos de una imagen como una secuencia de píxeles.

• Conoce el diseño arquitectónico de una PixelCNN.

• Construye una PixelCNN desde cero utilizando Keras.

• Utiliza el PixelCNN para generar imágenes.

Hasta ahora, hemos explorado dos familias diferentes de modelos generativos que han utilizado variables latentes: los autocodificadores variacionales (VAE) y las redes generativas adversariales (GAN). En ambos casos, se introduce una nueva variable con una distribución de la que es fácil tomar muestras y el modelo aprende a decodificar esta variable de vuelta al dominio original.

Ahora centraremos nuestra atención en los modelos autorregresivos , unafamilia de modelos que simplifican el problema del modelado generativo tratándolo como un proceso secuencial. Los modelos ...