Modelli linguistici di grandi dimensioni pratici

Capitolo 12. Messa a punto dei modelli di generazione

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

In questo capitolo prenderemo un modello di generazione di testo preaddestrato e analizzeremo il processo di messa a punto. Questa fase di messa a punto è fondamentale per produrre modelli di alta qualità ed è uno strumento importante nella nostra cassetta degli attrezzi per adattare un modello a uno specifico comportamento desiderato. La messa a punto fine ci permette di adattare un modello a un set di dati o a un dominio specifico.

In questo capitolo ti guideremo tra i due metodi più comuni per la messa a punto dei modelli di generazione del testo: la messa a punto supervisionata e la messa a punto delle preferenze. Esploreremo il potenziale di trasformazione dei modelli di generazione del testo preaddestrati per renderli strumenti più efficaci per le tue applicazioni.

Le tre fasi della formazione LLM: Pre-addestramento, messa a punto supervisionata e messa a punto delle preferenze

Ci sono tre fasi comuni che portano alla creazione di un LLM di alta qualità:

1. Modellazione del linguaggio

Il primo passo di per creare un LLM di alta qualità è quello di preaddestrarlo su uno o più set di dati testuali massicci(Figura 12-1). Durante l'addestramento, cerca di prevedere il token successivo per apprendere con precisione le rappresentazioni linguistiche e semantiche presenti nel testo. ...