Capitolo 4. Usare LangGraph per aggiungere memoria al tuo chatbot
Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: translation-feedback@oreilly.com
Nel Capitolo 3 hai imparato come fornire al tuo chatbot AI un contesto aggiornato e pertinente. In questo modo il tuo chatbot è in grado di generare risposte accurate in base agli input dell'utente. Ma questo non è sufficiente per creare un'applicazione pronta per la produzione. Come puoi fare in modo che la tua applicazione "chiacchieri" con l'utente, ricordando le conversazioni precedenti e il contesto pertinente?
I modelli linguistici di grandi dimensioni sono stateless, il che significa che ogni volta che il modello viene sollecitato a generare una nuova risposta non ha memoria del prompt precedente o della risposta del modello. Per fornire queste informazioni storiche al modello, abbiamo bisogno di un sistema di memoria robusto che tenga traccia delle conversazioni e del contesto precedenti. Queste informazioni storiche possono essere incluse nel prompt finale inviato al LLM, dandogli così "memoria". La Figura 4-1 illustra questo aspetto.
Figura 4-1. La memoria e il recupero utilizzati per generare risposte consapevoli del contesto da un LLM
In questo capitolo imparerai a costruire questo sistema di memoria essenziale utilizzando i moduli integrati di LangChain per facilitare ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access