IA generativa pratica con trasformatori e modelli di diffusione

Appendice C. Recupero End-to-End-Generazione Aumentata

Una delle applicazioni più diffuse degli LLMs su è il loro utilizzo per la generazione di contenuti basati sia su prompt in ingresso che su informazioni recuperate dall'esterno. In questa appendice, dimostreremo come costruire una pipeline che sfrutti un LLM preaddestrato e un trasformatore di frasi preaddestrato per generare contenuti basati sull'input dell'utente e su un insieme di documenti. Abbiamo esplorato gli elementi costitutivi di questo processo nel corso del libro. Nel Capitolo 2 abbiamo parlato della generazione di testo con gli LLMs e di come utilizzare i trasformatori di frasi per la codifica del testo. Il Capitolo 6 contiene anche un progetto in cui abbiamo costruito una pipeline RAG minima.

Parliamo dei componenti di un sistema RAG (illustrati schematicamente nella Figura C-1):

1. L'utente inserisce una domanda.

2. La pipeline recupera i documenti più simili alla domanda.

3. La pipeline passa sia la domanda che i documenti recuperati al LLM.

4. La pipeline genera una risposta.

Figura C-1. Una pipeline RAG semplificata

Elaborazione dei dati

Come in qualsiasi progetto di ML, il primo passo è il caricamento e l'elaborazione dei dati. Ci concentreremo su un singolo argomento. Immaginiamo di volere che il nostro modello generi contenuti relativi alla Legge sull'Intelligenza Artificiale dell'Unione Europea, che difficilmente ...