実践的なLLMサービングと最適化 (Japanese Edition)

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：translation-feedback@oreilly.com

大規模言語モデル（LLM）は、現代のAIの推論エンジンである。世界がAIを大規模にデプロイしようと競争する中、モデル推論はスタックの中心に移っている。推論の時代へようこそ。

しかし、オプティマイザを適切に最適化しなければ、LLMはコストが高く、処理に時間がかかる。Hands-On LLM Serving and Optimization（ハンズオンLLMサービングと最適化）」は、スケールでのLLMのデプロイと最適化の複雑さについての包括的なガイドである。

エンジニアリングに焦点を当てたこの実践的な本で、認可のChi WangとPeiheng Huは、堅牢性、パフォーマンス、コスト効率の高いAIトークン・ファクトリを構築するための実践的な例、コード、戦略を組み合わせている。LLM推論インフラを構築するにしても、それを利用するアプリケーションを構築するにしても、LLMサービングを深く理解することで、AIが私たちの働き方や構築方法をトランスフォーマーーーーしていく中で、より効果的で未来に対応できるエンジニアになれるだろう。

• コア概念、設計パラダイム、業界のベストプラクティスからモデルサービングの基盤を学ぶ。
• LLMを大規模にホスティングする際の一般的な課題を理解する
• AIアプリケーションとビジネス要件の要求を満たすために遅延とスループットのバランスをとる。
• コードに裏打ちされた実践的なテクニックで、費用対効果の高いLLMをホストする。