book

Aprendizaje profundo generativo, 2ª edición

by David Foster

August 2024

Intermediate to advanced

456 pages

11h 50m

Spanish

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Objetivo y enfoqueRequisitos previosMapa de carreterasCambios en la Segunda EdiciónOtros recursosConvenciones utilizadas en este libroCódigo baseUtilizar ejemplos de códigoAprendizaje en línea O'ReillyCómo contactar con nosotrosAgradecimientos
¿Qué es el modelado generativo?Modelado Generativo Versus DiscriminativoEl auge del modelado generativoModelado Generativo e IANuestro primer modelo generativo¡Hola Mundo!El marco del modelado generativoAprendizaje de la representaciónTeoría básica de la probabilidadTaxonomía de los modelos generativosLa base de código del aprendizaje profundo generativoClonar el repositorioUtilizar DockerFuncionando en una GPUResumen
Datos para el aprendizaje profundoRedes neuronales profundas¿Qué es una red neuronal?Aprender funciones de alto nivelTensorFlow y KerasPerceptrón multicapa (MLP)Preparación de los datosConstruir el modeloCompilar el modeloEntrenar el modeloEvaluación del modeloRed neuronal convolucional (CNN)Capas convolucionalesNormalización por lotesAbandonoConstruir la CNNEntrenamiento y evaluación de la CNNResumen
IntroducciónAutocodificadoresEl conjunto de datos Fashion-MNISTLa arquitectura del autocodificadorEl codificadorEl DescodificadorUnir el codificador al descodificadorReconstruir imágenesVisualizar el espacio latenteGenerar nuevas imágenesAutocodificadores variacionalesEl codificadorLa función de pérdidaEntrenamiento del autoencoder variacionalAnálisis del autocodificador variacionalExplorar el espacio latenteEl conjunto de datos CelebAEntrenamiento del autoencoder variacionalAnálisis del autocodificador variacionalGenerar nuevos rostrosAritmética del espacio latenteMorphing entre carasResumen
IntroducciónGAN Convolucional Profundo (DCGAN)El conjunto de datos BricksEl DiscriminadorEl generadorFormación del DCGANAnálisis del DCGANFormación en GAN: Trucos y consejosGAN de Wasserstein con Penalización de Gradiente (WGAN-GP)Pérdida WassersteinLa Restricción LipschitzAplicación de la restricción LipschitzLa pérdida por penalización del gradienteFormación del WGAN-GPAnálisis del WGAN-GPGAN condicional (CGAN)Arquitectura del CGANFormación del CGANAnálisis del CGANResumen
IntroducciónRed de memoria a largo plazo (LSTM)El conjunto de datos de recetasTrabajar con datos de textoTokenizaciónCrear el conjunto de entrenamientoLa arquitectura LSTMLa capa de incrustaciónLa capa LSTMLa célula LSTMEntrenamiento del LSTMAnálisis de la LSTMExtensiones de la Red Neuronal Recurrente (RNN)Redes Recurrentes ApiladasUnidades Recurrentes CerradasCélulas bidireccionalesPixelCNNCapas convolucionales enmascaradasBloques residualesEntrenar la PixelCNNAnálisis de la PixelCNNDistribuciones de mezclasResumen
IntroducciónNormalizar los flujosCambio de variablesEl determinante jacobianoEcuación de cambio de variablesRealNVPEl Conjunto de Datos de las Dos LunasCapas de acoplamientoEntrenamiento del modelo RealNVPAnálisis del modelo RealNVPOtros modelos de flujo normalizadorBRILLOFFJORDResumen

IntroducciónModelos basados en la energíaEl conjunto de datos MNISTLa función energíaMuestreo mediante dinámica de LangevinEntrenamiento con Divergencia ContrastivaAnálisis del modelo basado en la energíaOtros modelos basados en la energíaResumen
IntroducciónModelos de difusión de eliminación de ruido (DDM)El conjunto de datos FloresEl proceso de difusión hacia delanteEl truco de la reparametrizaciónHorarios de difusiónEl proceso de difusión inversaEl modelo de eliminación de ruido U-NetEntrenamiento del modelo de difusiónMuestreo del modelo de difusión de eliminación de ruidoAnálisis del modelo de difusiónResumen
IntroducciónGPTEl conjunto de datos de Reseñas de vinosAtenciónConsultas, claves y valoresAtención multicabezalEnmascaramiento causalEl bloque transformadorCodificación posicionalFormación GPTAnálisis de GPTOtros TransformersT5GPT-3 y GPT-4ChatGPTResumen
IntroducciónProGANEntrenamiento progresivoSalidasEstiloGANLa Red CartográficaLa Red de SíntesisSalidas de StyleGANEstiloGAN2Modulación y demodulación del pesoRegularización de la longitud del caminoSin Crecimiento ProgresivoSalidas de StyleGAN2Otras GAN importantesGAN de Autoatención (SAGAN)BigGANVQ-GANViT VQ-GANResumen
IntroducciónTransformadores para la generación de músicaEl conjunto de datos de la Suite para violonchelo de BachAnálisis de archivos MIDITokenizaciónCrear el conjunto de entrenamientoCodificación de la posición del senoMúltiples entradas y salidasAnálisis del transformador generador de músicaTokenización de la música polifónicaMuseGANEl conjunto de datos del coral de BachEl generador MuseGANEl Crítico de MuseGANAnálisis del MuseGANResumen
IntroducciónAprendizaje por RefuerzoEl entorno CarRacingVisión general del modelo mundialArquitecturaFormaciónRecogida aleatoria de datos del despliegueFormación de la VAELa arquitectura VAEExplorar la VAERecopilación de datos para entrenar la MDN-RNNEntrenamiento de la MDN-RNNLa arquitectura MDN-RNNMuestreo de la MDN-RNNFormación del controladorLa arquitectura del controladorCMA-ESParalelizar CMA-ESEntrenamiento en sueñosResumen
IntroducciónDALL.E 2ArquitecturaEl codificador de textoCLIPEl PriorEl DescodificadorEjemplos de DALL.E 2ImagenArquitecturaDrawBenchEjemplos de ImagenDifusión estableArquitecturaEjemplos de difusión estableFlamencoArquitecturaEl codificador de visiónEl Resamplificador PerceptorEl modelo lingüísticoEjemplos de FlamingoResumen
Cronología de la IA Generativa2014-2017: La era VAE y GAN2018-2019: La era de los Transformers2020-2022: La era del Gran ModeloEl estado actual de la IA GenerativaGrandes modelos lingüísticosModelos de texto a códigoModelos de texto a imagenOtras aplicacionesEl futuro de la IA GenerativaLa IA Generativa en la Vida CotidianaIA Generativa en el Lugar de TrabajoIA Generativa en la EducaciónÉtica y retos de la IA GenerativaReflexiones finales

Content preview from Aprendizaje profundo generativo, 2ª edición

Capítulo 13. Modelos multimodales

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com

Objetivos del capítulo

En este capítulo:

Aprende qué se entiende por modelo multimodal.
Explora el funcionamiento interno de DALL.E 2, un modelo de texto a imagen a gran escala de OpenAI.
Comprender cómo CLIP y los modelos de difusión como GLIDE desempeñan un papel integral en la arquitectura general de DALL.E 2.
Analiza las limitaciones de DALL.E 2, puestas de manifiesto por los autores del documento.
Explora la arquitectura de Imagen, un modelo de texto a imagen a gran escala de Google Brain.
Conoce el proceso de difusión latente utilizado por Stable Diffusion, un modelo de conversión de texto en imagen de código abierto.
Comprende las similitudes y diferencias entre DALL.E 2, Imagen y Difusión Estable.
Investiga DrawBench, una suite de pruebas comparativas para evaluarmodelos de texto a imagen.
Conoce el diseño arquitectónico de Flamingo, un novedoso modelo de lenguaje visual de DeepMind.
Desentraña los distintos componentes de Flamingo y aprende cómo contribuye cada uno de ellos al modelo en su conjunto.
Explora algunas de las capacidades de Flamingo, incluidala ayuda conversacional.

Hasta ahora, hemos analizado problemas de aprendizaje generativo que se centran únicamente en una modalidad de datos: texto, imágenes o música. Hemos visto cómo los GAN y los modelos de difusión pueden generar imágenes ...