Angewandte KI für die Java-Entwicklung in Unternehmen (German Edition)

Kapitel 5. Einbettungsvektoren , Vektorspeicher und lokale Ausführung von Modellen

Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: [e-mail]

In diesem Kapitel geht's um drei wichtige Konzepte, die die Basis für fast alle KI-basierten Anwendungen bilden: Einbettungsvektoren, Vektorspeicher und ihre Kombination mit erweiterten Abfragen in einer Architektur, die als „Retrieval-Augmented Generation” bezeichnet wird. Außerdem erzählen wir dir mehr über die lokale Modellinferenz. Wir konzentrieren uns auf die praktische Nutzung lokaler LLMs und wie man mit ihnen über Java-basierte Tools und Frameworks interagiert. Besonders für Entwickler ist das wichtig, um KI-Funktionen effektiv in Anwendungen auf ihren lokalen Rechnern zu integrieren.

Du lernst, wie Einbettungen semantische Bedeutungen aus Rohdaten erfassen, wie Vektorspeicher eine effiziente, auf Ähnlichkeit basierende Suche ermöglichen und wie diese Komponenten mit LLMs integriert werden, um Funktionen wie semantische Suche, Klassifizierung und Langzeitkontextspeicher zu ermöglichen. Der Schwerpunkt liegt auf der lokalen Ausführung dieser Funktionen aus Gründen der Leistung, der Kosten, des Datenschutzes oder der Offline-Anforderungen.

Dies ist ein grundlegendes Kapitel, das dich auf die praktischen Implementierungen im weiteren Verlauf des Buches vorbereitet. Es vermittelt das notwendige Verständnis dafür, wie Embeddings und lokale Inferenz miteinander ...