MLOps実装ガイド ―本番運用を見据えた開発戦略

8章スケーラブルな深層学習の構築と大規模言語モデルプロジェクト

深層学習は、人間の脳の構造と機能に着想を得た機械学習のサブドメインです。深層学習では、人工ニューロンが相互接続された層で構成されるニューラルネットワークがデータを階層的に処理し、データの複雑なパターンを捉えることができます。各層は入力データを学習・変換し、より高度な特徴や抽象的概念を徐々に捉えていきます。

深層学習の訓練過程では、ニューラルネットワークにラベル付きデータを与え、ニューロンの重みとバイアスを繰り返し調整します。深層学習は、手作業での特徴量エンジニアリングへの依存性を低減し、コンピュータビジョン、自然言語処理、音声認識、強化学習など、さまざまな分野で素晴らしい結果を出します。

深層学習技術は、Transformerや生成AI、ChatGPTなどの革新的な技術で世界を変革しています。さらに、より大きくて知的な基盤モデルは、人間のような作業を行い、コンテンツを作成し、理解することができます。

深層学習モデルの構築と訓練の過程は、運用上の複雑さとスケーリングの困難さを付随して発生します。そこでMLOpsを導入し、複雑さを簡素化・抽象化し、複雑なモデルの開発と使用のプロセスの運用化を助けます。

深層学習のフレームワークには多くの種類があります。主要なものとしては以下の通りです。

TensorFlow（https://www.tensorflow.org）

Googleが開発したTensorFlowは、最も広く使用されている深層学習フレームワークの1つです。TensorFlowはオープンソースで、深層学習モデルの構築とデプロイメントを容易にする包括的なエコシステムであり、（Kerasのような）高レベルのAPIやライブラリやツールなどを提供しています。 ...