AIエンジニアリング ―基盤モデルを用いたAIアプリケーション開発の基礎と実践

1章基盤モデルを用いたAIアプリケーション開発入門

2020年以降のAIを一言で表すなら、 それはスケールです。ChatGPT、GoogleのGemini、Midjourneyといったアプリケーションを支えるAIモデルは、世界の電力消費量の無視できない割合†1を占めるほど巨大化しており、これらのモデルを訓練するために公開されているインターネット上のデータが枯渇するリスク†2さえあるほどです。

[†1] AI models are devouring energy. Tools to reduce consumption are here, if data centers will adopt., https://oreil.ly/J0IyO

[†2] Villalobos et al., 2022, https://arxiv.org/abs/2211.04325

AIモデルのスケールアップは、2つの大きな変化をもたらしました。第一に、AIモデルがより強力になり、より多くのタスクを実行できるようになったことで、幅広いアプリケーションの開発が可能になりました。より多くの人々やチームがAIを活用して生産性を向上させ、経済的価値を創造し、生活の質を向上させています。

第二に、大規模言語モデル（LLM）の訓練には、データ、計算リソース、そして専門的な人材が必要であり、これらを用意できるのは一部の組織に限られています。この状況が、Model as a Serviceというサービス形態の登場を促しました。一部の組織が開発したモデルを、他の人々がサービスとして利用できるようになったのです。その結果、AIを活用してアプリケーションを構築したいと考える誰もが、モデル開発に先行投資することなく、強力なモデルを利用できるようになりました。 ...