IA generativa pratica con trasformatori e modelli di diffusione

Capitolo 3. Comprimere e rappresentare le informazioni

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

Questo capitolo di introduce i modelli e le tecniche di ML per apprendere rappresentazioni efficienti dei dati per compiti che coinvolgono immagini, video o testo. Perché le rappresentazioni efficienti sono importanti? Vogliamo ridurre la quantità di informazioni da memorizzare ed elaborare mantenendo le caratteristiche essenziali dei dati. Le rappresentazioni ricche consentono di addestrare modelli specializzati in compiti particolari e rendere le rappresentazioni compatte riduce i requisiti computazionali per addestrare e lavorare con modelli ad alta intensità di dati. Ad esempio, l'addestramento su un incorporamento vettoriale di un'immagine può essere più efficiente ed espressivo rispetto all'addestramento diretto sui suoi pixel.

I metodi di compressione tradizionali di , come ZIP o JPEG, si concentrano su tipi di dati specifici e utilizzano algoritmi artigianali per ridurre le dimensioni dei file. Sebbene questi metodi siano efficaci per gli scopi che si prefiggono, mancano della flessibilità e dell'adattabilità delle tecniche di compressione tradizionali. Lo ZIP, ad esempio, eccelle nella compressione senza perdita di dati generici grazie all'identificazione e alla codifica di modelli ripetitivi. D'altra parte, JPEG è stato progettato specificamente per la compressione di immagini ...