信頼性の高い機械学習 ―SRE原則を活用したMLOps

7章MLモデル訓練システム

MLモデルの訓練は、入力データをモデルに変換するプロセスです。ほとんどの場合、前処理済みで効率的な方法で保存された入力データを、一連のMLアルゴリズムで処理します。出力は、他のアプリケーションに統合することができるモデルと呼ばれるデータ表現です。モデルとは何かについての詳細は3章を参照してください。

訓練アルゴリズムは、ソフトウェアがデータを読み取り、そのデータを表現しようとモデルを更新する具体的な手順です。一方、訓練システムは、そのアルゴリズムを取り巻くソフトウェア全体を指します。ML訓練システムの最も単純な実装では、単一のコンピュータ上で単一のプロセスが実行され、データを読み込み、そのデータに対して何らかのクレンジングと一貫性のある処理を行い、MLアルゴリズムを適用します。その結果、データから学習したモデルは、新しい値からデータ表現を作成します。1台のコンピュータでの訓練は、モデルを構築する最も単純な方法です。大規模なクラウドプロバイダは、強力な構成を有するコンピュータをレンタルしています。運用環境でのMLの興味深い使い方の多くは、相当な量のデータを処理するため、1台以上のコンピュータを用いて処理する必要があることを念頭に置いてください。処理を分散させることは、規模を拡大できますが、同時に複雑さももたらします。

ML訓練システムは広い概念を含むため、ML訓練システムは、エンドツーエンドのMLシステムの他のどの部分よりも、異なる組織やモデル作成者間で、互いに共通点が少ないかもしれません。8章では、異なるユースケースであっても、運用システムの基本的な要件の多くが大まかに類似していることがわかります。運用システムは、モデルの表現を受け取り、それをRAMにロードし、アプリケーションから送信されたモデルの内容に関するクエリに応答します。実際の運用システムでは、非常に小さなモデル（例えば、携帯電話上でも稼働するもの）で行うこともあります。時には、1台のコンピュータに収まらないような巨大なモデルを扱うこともあります。しかし、問題の構造は似ています。 ...