book

Aprendizaje profundo generativo, 2ª edición

by David Foster

August 2024

Intermediate to advanced

456 pages

11h 50m

Spanish

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Objetivo y enfoqueRequisitos previosMapa de carreterasCambios en la Segunda EdiciónOtros recursosConvenciones utilizadas en este libroCódigo baseUtilizar ejemplos de códigoAprendizaje en línea O'ReillyCómo contactar con nosotrosAgradecimientos
¿Qué es el modelado generativo?Modelado Generativo Versus DiscriminativoEl auge del modelado generativoModelado Generativo e IANuestro primer modelo generativo¡Hola Mundo!El marco del modelado generativoAprendizaje de la representaciónTeoría básica de la probabilidadTaxonomía de los modelos generativosLa base de código del aprendizaje profundo generativoClonar el repositorioUtilizar DockerFuncionando en una GPUResumen
Datos para el aprendizaje profundoRedes neuronales profundas¿Qué es una red neuronal?Aprender funciones de alto nivelTensorFlow y KerasPerceptrón multicapa (MLP)Preparación de los datosConstruir el modeloCompilar el modeloEntrenar el modeloEvaluación del modeloRed neuronal convolucional (CNN)Capas convolucionalesNormalización por lotesAbandonoConstruir la CNNEntrenamiento y evaluación de la CNNResumen
IntroducciónAutocodificadoresEl conjunto de datos Fashion-MNISTLa arquitectura del autocodificadorEl codificadorEl DescodificadorUnir el codificador al descodificadorReconstruir imágenesVisualizar el espacio latenteGenerar nuevas imágenesAutocodificadores variacionalesEl codificadorLa función de pérdidaEntrenamiento del autoencoder variacionalAnálisis del autocodificador variacionalExplorar el espacio latenteEl conjunto de datos CelebAEntrenamiento del autoencoder variacionalAnálisis del autocodificador variacionalGenerar nuevos rostrosAritmética del espacio latenteMorphing entre carasResumen
IntroducciónGAN Convolucional Profundo (DCGAN)El conjunto de datos BricksEl DiscriminadorEl generadorFormación del DCGANAnálisis del DCGANFormación en GAN: Trucos y consejosGAN de Wasserstein con Penalización de Gradiente (WGAN-GP)Pérdida WassersteinLa Restricción LipschitzAplicación de la restricción LipschitzLa pérdida por penalización del gradienteFormación del WGAN-GPAnálisis del WGAN-GPGAN condicional (CGAN)Arquitectura del CGANFormación del CGANAnálisis del CGANResumen
IntroducciónRed de memoria a largo plazo (LSTM)El conjunto de datos de recetasTrabajar con datos de textoTokenizaciónCrear el conjunto de entrenamientoLa arquitectura LSTMLa capa de incrustaciónLa capa LSTMLa célula LSTMEntrenamiento del LSTMAnálisis de la LSTMExtensiones de la Red Neuronal Recurrente (RNN)Redes Recurrentes ApiladasUnidades Recurrentes CerradasCélulas bidireccionalesPixelCNNCapas convolucionales enmascaradasBloques residualesEntrenar la PixelCNNAnálisis de la PixelCNNDistribuciones de mezclasResumen
IntroducciónNormalizar los flujosCambio de variablesEl determinante jacobianoEcuación de cambio de variablesRealNVPEl Conjunto de Datos de las Dos LunasCapas de acoplamientoEntrenamiento del modelo RealNVPAnálisis del modelo RealNVPOtros modelos de flujo normalizadorBRILLOFFJORDResumen

IntroducciónModelos basados en la energíaEl conjunto de datos MNISTLa función energíaMuestreo mediante dinámica de LangevinEntrenamiento con Divergencia ContrastivaAnálisis del modelo basado en la energíaOtros modelos basados en la energíaResumen
IntroducciónModelos de difusión de eliminación de ruido (DDM)El conjunto de datos FloresEl proceso de difusión hacia delanteEl truco de la reparametrizaciónHorarios de difusiónEl proceso de difusión inversaEl modelo de eliminación de ruido U-NetEntrenamiento del modelo de difusiónMuestreo del modelo de difusión de eliminación de ruidoAnálisis del modelo de difusiónResumen
IntroducciónGPTEl conjunto de datos de Reseñas de vinosAtenciónConsultas, claves y valoresAtención multicabezalEnmascaramiento causalEl bloque transformadorCodificación posicionalFormación GPTAnálisis de GPTOtros TransformersT5GPT-3 y GPT-4ChatGPTResumen
IntroducciónProGANEntrenamiento progresivoSalidasEstiloGANLa Red CartográficaLa Red de SíntesisSalidas de StyleGANEstiloGAN2Modulación y demodulación del pesoRegularización de la longitud del caminoSin Crecimiento ProgresivoSalidas de StyleGAN2Otras GAN importantesGAN de Autoatención (SAGAN)BigGANVQ-GANViT VQ-GANResumen
IntroducciónTransformadores para la generación de músicaEl conjunto de datos de la Suite para violonchelo de BachAnálisis de archivos MIDITokenizaciónCrear el conjunto de entrenamientoCodificación de la posición del senoMúltiples entradas y salidasAnálisis del transformador generador de músicaTokenización de la música polifónicaMuseGANEl conjunto de datos del coral de BachEl generador MuseGANEl Crítico de MuseGANAnálisis del MuseGANResumen
IntroducciónAprendizaje por RefuerzoEl entorno CarRacingVisión general del modelo mundialArquitecturaFormaciónRecogida aleatoria de datos del despliegueFormación de la VAELa arquitectura VAEExplorar la VAERecopilación de datos para entrenar la MDN-RNNEntrenamiento de la MDN-RNNLa arquitectura MDN-RNNMuestreo de la MDN-RNNFormación del controladorLa arquitectura del controladorCMA-ESParalelizar CMA-ESEntrenamiento en sueñosResumen
IntroducciónDALL.E 2ArquitecturaEl codificador de textoCLIPEl PriorEl DescodificadorEjemplos de DALL.E 2ImagenArquitecturaDrawBenchEjemplos de ImagenDifusión estableArquitecturaEjemplos de difusión estableFlamencoArquitecturaEl codificador de visiónEl Resamplificador PerceptorEl modelo lingüísticoEjemplos de FlamingoResumen
Cronología de la IA Generativa2014-2017: La era VAE y GAN2018-2019: La era de los Transformers2020-2022: La era del Gran ModeloEl estado actual de la IA GenerativaGrandes modelos lingüísticosModelos de texto a códigoModelos de texto a imagenOtras aplicacionesEl futuro de la IA GenerativaLa IA Generativa en la Vida CotidianaIA Generativa en el Lugar de TrabajoIA Generativa en la EducaciónÉtica y retos de la IA GenerativaReflexiones finales

Content preview from Aprendizaje profundo generativo, 2ª edición

Capítulo 12. Modelos mundiales

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com

Objetivos del capítulo

En este capítulo:

Recorre los fundamentos del aprendizaje por refuerzo (RL).
Comprender cómo puede utilizarse el modelado generativo dentro de un enfoque de modelo del mundo para la RL.
Mira cómo entrenar un autoencoder variacional (VAE) para capturar observaciones del entorno en un espacio latente de baja dimensión.
Recorre el proceso de entrenamiento de una red neuronal de densidad de mezcla-recurrente (MDN-RNN) que predice la variable latente.
Utiliza la estrategia de evolución de adaptación de la matriz de covarianza (CMA-ES) para entrenar un controlador que pueda realizar acciones inteligentes en el entorno.
Comprender cómo la propia MDN-RNN entrenada puede utilizarse como entorno, permitiendo al agente entrenar al controlador dentro de sus propios sueños alucinados, en lugar de en el entorno real.

Este capítulo presenta una de las aplicaciones más interesantes de los modelos generativos en los últimos años, a saber, su uso dentro de los llamados modelos del mundo.

Introducción

En de marzo de 2018, David Ha y Jürgen Schmidhuber publicaron su artículo "World Models".¹ El artículo mostraba cómo es posible entrenar un modelo que puede aprender a realizar una tarea concreta mediante la experimentación dentro de su propio entorno onírico generado, en lugar de dentro del entorno real. Es un ejemplo ...