LLMOps

Capitolo 5. Adattamento del dominio dei modelli per le applicazioni basate su LLM

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

In il capitolo precedente abbiamo parlato di diverse architetture per la distribuzione dei modelli. In questo capitolo parleremo di come adattare il dominio dei tuoi modelli. I professionisti si riferiscono spesso all'adattamento al dominio come "messa a punto", ma la messa a punto è in realtà solo uno dei tanti modi per far funzionare bene un modello nel tuo dominio.

In questo capitolo analizzeremo diversi metodi di adattamento dei modelli, tra cui prompt engineering, fine-tuning e retrieval augmented generation (RAG).

Verrà inoltre illustrato come ottimizzare gli LLMs per eseguirli in ambienti con risorse limitate che richiedono la compressione del modello. Infine, discuteremo le migliori pratiche e le leggi di scalabilità per mostrarti come determinare la quantità di dati di cui i tuoi LLMs hanno bisogno per funzionare in modo efficace.

Addestrare gli LLMs da zero

L'addestramento di LLMs da zero può essere semplice o richiedere molte risorse, a seconda dell'applicazione. Per la maggior parte delle applicazioni, ha senso utilizzare un LLM open source esistente o un LLM proprietario . D'altra parte, non c'è modo migliore per imparare il funzionamento di un LLM che addestrarne uno da zero.

L'addestramento di un LLM da zero è un'attività complessa e ad alta intensità ...