ディープラーニング実践ガイド ―クラウド、モバイル、ブラウザ、エッジデバイス向けAIアプリ開発入門

9章TensorFlow ServingとKubeflowを使った、クラウド上でのスケーラブルな推論サービス

　読者が高性能な犬猫分類器を作成したとします。最終的な目標は、シリコンバレーの各企業と同様に「より良い世界を作ること」です。この分類器を使って、何ができるか考えてみましょう。堅実なビジネスプランを携えて、ベンチャーキャピタルへの提案が楽しみで待ちきれません。投資家たちはクラウド戦略について聞いてくると予想されます。彼らに出資を真剣に考えてもらうためには、しっかりとしたデモが不可欠です。モデルを作るだけでは不十分であり、モデルの機能をきちんと提供できなければなりません。そして往々にして、機能を提供するほうが難しいということもあります。かつては、モデルの訓練が数週間で終わったとしても、それを広く公開するのには月単位の時間がかかっていたことがよくありました。公開にはバックエンドやDevOpsの開発者を巻き込んで協力していく必要があり、これが時間がかかる要因だったのです。

　この章では、独自に作成したモデルをホスティングし公開する際の以下のような疑問に答えてゆきます。

• モデルを個人所有のサーバーで公開し、同僚が利用できるようにするにはどうすればよいでしょうか。
• 自分はバックエンドやインフラのエンジニアではないのですが、モデルを公開して数千人あるいは数百万人のユーザーに利用してもらいたいと思っています。スケーラビリティや信頼性について心配することなく、かつ手頃な価格で公開する方法はないでしょうか。
• さまざまな理由（コスト、法規制、プライバシーなど）があって、モデルをクラウド上では公開できません。自社のオンプレミス環境でホスティングする際に、スケーラビリティや信頼性を向上させるための方法を教えてください。 ...