Progettazione di applicazioni per modelli linguistici di grandi dimensioni

Capitolo 10. Interfacciare LLMs con strumenti esterni

Questo lavoro è stato tradotto utilizzando l'AI. Siamo lieti di ricevere il tuo feedback e i tuoi commenti: [e-mail]

Nelle prime due parti del libro, abbiamo visto l'impatto che gli LLM autonomi possono avere nel risolvere un'ampia varietà di compiti. Per sfruttare efficacemente tutte le loro capacità in un'organizzazione, devono essere integrati nell'ecosistema di dati e software esistente. A differenza dei sistemi software tradizionali, gli LLMs possono generare azioni autonome per interagire con altri componenti dell'ecosistema, offrendo un grado di flessibilità mai visto prima nel mondo del software. Questa flessibilità sblocca una serie di casi d'uso che prima erano considerati impossibili.

Un altro motivo per cui abbiamo bisogno di LLMs per interagire con il software e i dati esterni: come sappiamo fin troppo bene, gli attuali LLMs hanno limitazioni significative, alcune delle quali sono state discusse nel Capitolo 1. Per riassumere alcuni punti chiave:

• Poiché è costoso riqualificare gli LLMs o mantenerli costantemente aggiornati, essi hanno una data di scadenza della conoscenza e quindi non possiedono alcuna conoscenza di eventi più recenti.

• Anche se stanno migliorando nel tempo, gli LLMs non sempre azzeccano la matematica.

• Non sono in grado di fornire garanzie di veridicità o di citare accuratamente le fonti dei loro prodotti.

• Dare loro in pasto i propri dati in modo efficace è una sfida; ...