コンピュータビジョンのための実践機械学習 ―モデルアーキテクチャからMLOpsまで

9章モデルによる推論

機械学習モデルを学習させる目的は、推論に使用できるようにすることです。本章では、学習したモデルをデプロイし推論させる際に考慮すべき事柄や設計上の選択について詳しく見ていきます。

	本章のコードは、本書のGitHubリポジトリの09_deployingフォルダを参照してください。コードサンプルやノートブックのファイル名は必要に応じて明記します。

9.1　推論を行う

学習したモデルを呼び出す、つまりモデルを使って推論するには、エクスポートしたディレクトリからモデルを読み込み、推論用のシグネチャを呼び出す必要があります。この節では、その方法について説明します。また、呼び出すモデルのメンテナンス性とパフォーマンスを向上させる方法についても見ていきます。

9.1.1　モデルのエクスポート

推論用のシグネチャを作成するためには、学習したモデルをエクスポートする必要があります。エクスポートとモデルのシグネチャについては、「7章　学習パイプライン」の「7.2　モデルの状態の保存」で詳しく説明しましたが、簡単におさらいしておきましょう。Kerasモデルは、次のようなコードでエクスポートできます（07c_export.ipynb）。

model.save('gs://practical-ml-vision-book/flowers_5_trained')

これにより、TensorFlowのSavedModel形式でモデルが保存されます。コマンドラインツールのsaved_model_cli ...