November 2025
Intermediate to advanced
430 pages
11h 46m
German
book
Angewandte KI für die Java-Entwicklung in Unternehmen (German Edition)
by Alex Soto Bueno, Markus Eisele, Natale Vinto
Content preview from Angewandte KI für die Java-Entwicklung in Unternehmen (German Edition)
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
Kapitel 6. Inferenz -APIs
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Du hast bereits dein Wissen über KI und die vielen Arten von Modellen erweitert. Außerdem hast du diese Modelle lokal bereitgestellt (sofern möglich) und mit Abfragen getestet. Wenn es jedoch an der Zeit ist, Modelle zu verwenden, musst du sie ordnungsgemäß bereitstellen, die bewährten Methoden deines Unternehmens befolgen und Entwicklern eine einfache Möglichkeit bieten, das Modell zu nutzen.
Eine Inferenz-API hilft bei der Lösung dieser Probleme und macht Modelle für alle Entwickler zugänglich. In diesem Kapitel wird erläutert, wie du ein KI-/ML-Modell mithilfe einer Inferenz-API in Java bereitstellst.
Was ist eine Inferenz-API?
Eine Inferenz-API ermöglicht es Entwicklern v, Daten (in jedem Protokoll, wie HTTP, gRPC oder Kafka) an einen Server mit einem bereitgestellten ML-Modell zu senden und als Ergebnis die Vorhersagen oder Klassifizierungen zu erhalten. Praktisch gesehen greifst du jedes Mal, wenn du auf Cloud-Modelle wie OpenAI oder Gemini oder lokal bereitgestellte Modelle mit Ollama zugreifst, über deren Inferenz-API darauf zu.
Auch wenn es heutzutage üblich ist, große Modelle zu verwenden, die von großen Unternehmen wie Google, IBM oder Meta trainiert wurden, meist für LLM-Zwecke, musst du möglicherweise kleine, individuell trainierte Modelle verwenden, um ein bestimmtes Problem für dein Unternehmen zu lösen. ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.