AI for People and Business

付録C. 生産におけるAI

第13章で簡単に触れたように、探索的なマシン学習とAI開発には、実際にデプロイし、監視し、保守し、最適化する必要がある本番稼動可能なAIソリューションの作成と比較して、非常に大きな違いがある。

この付録では、本番と開発におけるAIに関連する多くの重要な検討事項と相違点を取り上げている。これには、コンピューティング環境の概念、ローカル開発とリモート開発、本番のスケーラビリティの概念、継続的な改善のためのさまざまなタイプのAI学習、AIソリューションのメンテナンスなどが含まれる。

本番環境と開発環境

環境」という用語は、オペレーティングシステム、設定子、リソース（例：RAM、CPU）、データ、およびインストールされたソフトウェアの特定のセットによって特徴付けられる物理マシンor仮想マシンを指す。

デプロイ環境とは、データサイエンティストや機械学習エンジニアが、実際のソリューションにデプロイする前に、成果物（予測モデル、レコメンダーシステム、スコアリングエンジンなど）を書き、テストし、最適化するための、局所的またはリモート環境のことである。

成果物が作成され、すべての機能要件と非機能要件を満たし、該当する場合はすべてのテストに合格した後、本番環境にデプロイ（リリース）される。本番環境とは、ソフトウェアが常時稼動し、一般に使用可能な環境のことである。

ハードウェア的には、開発環境はノートPC、デスクトップ、サーバなどのマシン上で稼働する。仮想の場合、仮想コンピューティング環境は実際のハードウェア・サーバ上で実行され、通常は仮想マシン（VM）またはDockerのようなテクノロジーを使ったコンテナの形で実行される。マシンはクラウド、オンプレミス、オフプレミスのいずれかに配置される。

ソフトウェアアプリケーションは通常、段階的に開発され、テストされた後、プロダクションソリューションに統合され、プロダクションオートメーションの一部として、すべての想定ユーザが利用できるようになる。ソフトウェアを本番ソリューションに統合するプロセスは、一般にソフトウェアリリース、デプロイ、継続的デリバリと呼ばれる。

データサイエンティスト、機械学習エンジニア、ソフトウェアエンジニアは、開発段階でコードを書いてソフトウェアを作成し、ソフトウェア品質保証や自動テストは、ソフトウェアがバグなく要求通りに動作することを保証するために、開発後のソフトウェアに対して実施される。ソフトウェアが意図した通りに動作することが確認され、バグがないと判断されると、本番環境にデプロイされ使用される。

通常、これらのフェーズごとに異なるコンピューティング環境（これも物理または仮想）が作成され、それに応じて名前付けされる。一般的な環境名は、開発環境、ステージング環境、本番環境である。ステージング環境は、準備ができたら本番環境にデプロイする前に、ソフトウェアの塊をテストするために使われる。この章の残りの部分では、開発環境と本番環境に焦点を当て、それぞれの違いを説明する。

本番環境の要件や環境は、開発やプロトタイピングに必要なものとは異なるため、コードやAI/機械学習の成果物のデプロイは、環境の不一致のために困難な場合がある。本番環境では、より大規模なアプリケーション（SaaSなど）が実行されることが多く、AIや機械学習をベースとしたコンポーネントは全体的な機能やユーザ体験のサブセットであるという事実が、これをさらに複雑にしている。

そう考えると、AIの成果物を本番環境にデプロイする際に考慮すべき選択肢はいくつかある。1つ目は、開発時に使用したのと同じ機械学習専用の言語やツールを使って、既存の本番システムに機能を追加する方法だ。例えば、クラウドのエンドポイントとしてホストされるAPIベースのサービスやマイクロサービスとしてなどだ。このオプションには、一貫性とシンプルさという利点があるが、最もパフォーマンスの高いオプションではないかもしれない。 ...