book

IA generativa su AWS

by Chris Fregly, Antje Barth, Shelbee Eigenbrode

April 2025

Intermediate to advanced

312 pages

8h 37m

Italian

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Convenzioni utilizzate in questo libroUtilizzo di esempi di codiceFormazione online O'ReillyCome contattarciRingraziamentiChrisAntjeShelbee
Casi d'uso e compitiModelli di fondazione e hub di modelloCiclo di vita del progetto di intelligenza artificiale generativaAI generativa su AWSPerché l'intelligenza artificiale generativa su AWS?Costruire applicazioni di intelligenza artificiale generativa su AWSRiassunto
Prompt e completamentiGettoniIngegneria promptStruttura del promptIstruzioniContestoApprendimento In-Context con inferenza a pochi scattiInferenza a colpo zeroInferenza in un colpo soloInferenza a pochi colpiL'apprendimento in contesto andato stortoMigliori pratiche di apprendimento in contestoMigliori pratiche di ingegneria del promptParametri di configurazione dell'inferenzaRiassunto
Modelli di fondazione per le grandi lingueTokenizzatoriVettori di inclusioneArchitettura del trasformatoreIngressi e finestra contestualeStrato incorporatoEncoderAttenzione a se stessiDecoderUscita SoftmaxTipi di modelli di fondazione basati su trasformatoriSet di dati di pre-addestramentoLeggi di scala Modelli ottimali per il calcoloRiassunto
Sfide di memoriaTipi di dati e precisione numericaQuantizzazionefp16bfloat16fp8int8Ottimizzare i livelli di auto-attenzioneFlashAttentionAttenzione alle query raggruppateInformatica distribuitaDati distribuiti in paralleloDati completamente shardati in paralleloConfronto delle prestazioni di FSDP rispetto a DDPInformatica distribuita su AWSDati completamente shardati in parallelo con Amazon SageMakerAWS Neuron SDK e AWS TrainiumRiassunto
Messa a punto delle istruzioniLlama 2-ChatFalcon-ChatFLAN-T5Set di dati sulle istruzioniSet di dati sulle istruzioni multitaskFLAN: esempio di set di istruzioni multitaskModello di promptConvertire un dataset personalizzato in un dataset di istruzioniMessa a punto delle istruzioniAmazon SageMaker StudioAmazon SageMaker JumpStartAmazon SageMaker Estimatore per Faccia da AbbracciareValutazioneMetriche di valutazioneParametri di riferimento e set di datiRiassunto
Messa a punto completa rispetto al PEFTLoRA e QLoRAFondamenti della LoRAClassificaModuli e livelli di destinazioneApplicazione della LoRAUnire l'adattatore LoRA al modello originaleMantenere adattatori LoRA separatiSintonizzazione completa rispetto alle prestazioni LoRAQLoRASintonizzazione del prompt e prompt morbidiRiassunto
Allineamento umano: Utile, onesto e innocuoPanoramica sull'apprendimento per rinforzoAddestrare un modello di ricompensa personalizzatoRaccogliere il set di dati di addestramento con l'uomo nel loopEsempio di istruzioni per etichettatori umaniUtilizzo della verità a terra di Amazon SageMaker per le annotazioni umanePreparare i dati delle classifiche per addestrare un modello di ricompensaAddestrare il modello di ricompensaModello di ricompensa esistente: Rivelatore di tossicità di MetaOttimizzazione con l'apprendimento per rinforzo dal feedback umanoUtilizzo del modello di ricompensa con RLHFAlgoritmo RL di ottimizzazione della politica prossimaleEsegui la messa a punto di RLHF con PPOMitigare il Reward HackingUtilizzo di una messa a punto efficiente dei parametri con RLHFValutare il modello di RLHF con messa a puntoValutazione qualitativaValutazione quantitativaModello di valutazione del caricoDefinire la funzione di aggregazione delle metriche di valutazioneConfronta le metriche di valutazione prima e dopoRiassunto
Ottimizzazioni del modello per l'inferenzaPotaturaQuantizzazione post-training con GPTQDistillazioneGrande contenitore per l'inferenza del modelloAWS Inferentia: Hardware per l'inferenzaAggiornamento del modello e strategie di distribuzioneTest A/BDistribuzione ombraMetriche e monitoraggioAutoscalaPolitiche di autoscalingDefinire un criterio di autoscalingRiassunto
Limitazioni del modello linguistico di grandi dimensioniAllucinazioneCutoff di conoscenzaGenerazione aumentata di recuperoFonti di conoscenza esterneFlusso di lavoro RAGCaricamento dei documenti ChunkingRecupero e riclassificazione di documentiAumento promptOrchestrazione e implementazione di RAGCaricamento e raggruppamento dei documentiIncorporazione del vettore Memorizzazione e recuperoCatene di recuperoRiclassificazione con la massima rilevanza marginaleAgentiStruttura ReactStruttura linguistica assistita dal programmaApplicazioni di IA generativaFMOps: rendere operativo il ciclo di vita del progetto di intelligenza artificiale generativaConsiderazioni sulla sperimentazioneConsiderazioni sullo sviluppo Considerazioni sulla distribuzione in produzioneRiassunto

Casi d'usoMigliori pratiche di ingegneria dei prompt multimodaliGenerazione e miglioramento delle immaginiGenerazione di immaginiModifica e miglioramento delle immaginiInpainting, Outpainting, Profondità dell'immagineInpaintingDipingereProfondità dell'immagineDidascalia delle immagini e risposta alle domande visiveDidascalie delle immaginiModerazione dei contenutiRisposta alle domande visive Valutazione del modelloCompiti generativi dal testo all'immagineDiffusione in avantiRagionamento non verbaleFondamenti di architettura di diffusioneDiffusione in avantiDiffusione inversaU-Net Architettura a diffusione stabile 2Codificatore di testoU-Net e processo di diffusioneCondizionamento del testoAttenzione incrociataProgrammatoreDecodificatore di immaginiArchitettura XL a diffusione stabileU-Net e attenzione incrociataRaffinatoreCondizionamentoSommario
ControlNetMessa a puntoDreamBoothDreamBooth e PEFT-LoRAInversione testualeAllineamento umano con l'apprendimento per rinforzo dal feedback umanoRiassunto
Modelli di fondazione bedrockModelli Amazon Titan FoundationModelli di fondazione a diffusione stabile da Stability AIAPI di inferenza BedrockModelli linguistici di grandi dimensioniGenerare codice SQLRiassumere il testoIncorporazioniMessa a puntoAgentiModelli multimodaliCreare immagini dal testoCreare immagini da immaginiPrivacy dei dati e sicurezza della reteGovernance e monitoraggioRiassunto

Content preview from IA generativa su AWS

Informazioni sugli autori

Chris Fregly è un Principal Solutions Architect per l'IA generativa presso Amazon Web Services con sede a San Francisco, California. Chris possiede tutte le certificazioni AWS. È anche cofondatore del Meetup globale Generative AI on AWS. Chris interviene regolarmente ai meetup e alle conferenze sull'AI e sull'apprendimento automatico in tutto il mondo. In precedenza, Chris è stato ingegnere presso Databricks e Netflix, dove ha lavorato su prodotti e soluzioni scalabili di big data e machine learning. È anche coautore del libro di O'Reilly Data Science on AWS.

Antje Barth è Principal Developer Advocate for generative AI presso Amazon Web Services con sede a San Francisco, California. È anche cofondatrice del Meetup globale Generative AI on AWS e del capitolo di Düsseldorf di Women in Big Data. Antje interviene spesso alle conferenze e ai meetup sull'AI e sull'apprendimento automatico in tutto il mondo. Prima di entrare in AWS, Antje ha lavorato in ruoli di ingegneria delle soluzioni presso MapR e Cisco, aiutando gli sviluppatori a sfruttare i big data, i container e le piattaforme Kubernetes nel contesto dell'AI e dell'apprendimento automatico. È anche coautrice del libro di O'Reilly Data Science on AWS.

Shelbee Eigenbrode è un Principal Solutions Architect per l'IA generativa presso Amazon Web Services con sede a Denver, Colorado. È cofondatrice del capitolo di Denver di Women in Big Data. Shelbee possiede sei certificazioni AWS e lavora nel settore tecnologico ...