AI applicata allo sviluppo Java aziendale (Italian Edition)

Capitolo 5. Vettoridi incorporamento , archivi vettoriali ed esecuzione locale dei modelli

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

Questo capitolo presenta tre concetti chiave che sono alla base di quasi tutte le app basate sull'intelligenza artificiale: i vettori di incorporamento, gli archivi vettoriali e la loro combinazione con query aumentate in un'architettura chiamata generazione aumentata dal recupero. Ti spiegheremo anche di più sull'inferenza dei modelli locali. Ci concentreremo sull'uso pratico degli LLMs locali e su come interagire con essi tramite strumenti e framework basati su Java. Soprattutto per gli sviluppatori, questo è fondamentale per integrare in modo efficace le funzionalità di intelligenza artificiale nelle app sui loro computer locali.

Imparerete come gli embedding catturano il significato semantico dall'input grezzo, come gli archivi vettoriali consentono un recupero efficiente basato sulla somiglianza e come questi componenti si integrano con gli LLMs per potenziare funzionalità come la ricerca semantica, la classificazione e la memoria a lungo termine. L'enfasi è sull'esecuzione di queste funzionalità a livello locale per esigenze di prestazioni, costi, privacy o offline.

Questo è un capitolo fondamentale che ti prepara alle implementazioni pratiche nel resto del libro. Fornisce la comprensione necessaria di come gli embedding e l'inferenza locale sono ...