Kubernetes上での生成AI (Japanese Edition)

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：translation-feedback@oreilly.com

生成AIは産業に革命をもたらしており、Kubernetesは急速にこれらのリソース集約型ワークロードのデプロイと管理のバックボーンとなっている。本書は、AIイノベーションとクラウドネイティブインフラのパワーを組み合わせる準備ができているMLOpsエンジニア、ソフトウェア開発者、Kubernetes管理者、AI専門家向けの実践的なハンズオンガイドである。著者のRoland HußとDaniele Zoncaは、Kubernetes上でGenAIモデルをトレーニング、ファインチューニング、デプロイ、スケーリングするための明確なロードマップを提供し、その過程でリソースの最適化、自動化、セキュリティなどの課題に対処する。

実世界の例を用いた実用的な洞察により、読者は本番環境でGenAIアプリケーションを管理する機会と複雑さに取り組むことを学ぶだろう。大規模な言語モデルを実験している場合でも、スケールでのAIデプロイのニュアンスに直面している場合でも、このエキサイティングなテクノロジーを効果的に運用するために必要な専門知識を発見することができる。

• 最適化された推論ランタイムでLLMをより効率的にデプロイする方法を学ぶ。
• ハードウェア検出やマルチノード・スケーリングを含むGPUスケジューリングを実践的に学ぶ。
• 最初のトークンまでの時間やトークンのスループットなど、LLM特有のメトリックを監視し理解する。
• モデルをファインチューニングするタイミングや、検索補強がより良い選択であるタイミングを知る。
• GPUリソースをコミットする前に標準化ベンチマークでモデルを評価する方法を学ぶ
• セキュアなツール統合、ID管理、永続的な状態でエージェントアプリケーションを実行する方法を学ぶ。