グリーンなソフトウェア開発

第8章. より環境に優しいマシン学習、AI、LLM

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

コンピュータは、人間を欺いて自分が人間であると信じ込ませることができれば、知的と呼びうるだろう。

アラン・チューリング

2023年3月下旬、ビル・ゲイツは自身のブログ「GatesNotes」に「AIの時代が始まった」と書き、人工知能は携帯電話やインターネットと同じくらい革命的なものになるだろうと述べた。携帯電話やインターネットがなかった時代をほとんど覚えていない年齢である2人の著者にとっては、これは大変な文である。私たちがAIとマシンラーニング（ML）の時代に生きていることは否定できない。今ほど私たちの生活に大きな影響を与えた時代はかつてなかった。AIは、芸術から医療、戦争、学校のレポート、気候に至るまで、生活のあらゆる分野で大きな見出しを飾っている。

AIは新しいものではない。アラン・チューリングは1950年に発表した論文『計算機と知性』の中で、初めて「考えるマシン」というアイデアを提案した。¹この論文で彼は、今では世界的に有名になった「模倣ゲーム」という考え方を定義し、これを現在ではチューリング・テストと呼んでいる。このテストは、コンピュータが人間、あるいは人間のような認知能力を持つかどうかを判定するために考案されたものである。このアイデアは、70年以上たった今でも、私たちのような業界人だけでなく、『ウエストワールド』、『エクス・マキナ』、『イミテーション・ゲーム』など、このアイデアを映画化した作品に見られるように、ハリウッドをも魅了し、示唆に富ませている。

1950年代と1960年代に最初のAIモデルが登場して以来、AIは2012年までムーアの法則と同じペースで発展し続けた。²その後、モデルのサイズは爆発的に増大した。2023年初頭、世界は大規模言語モデル（LLM）がChatGPT、Microsoft365 Copilot、GoogleのPaLM 2のようなモデルやサービスを通じて一般利用可能になり、新たなパラダイムシフトを見た。LLMはAIアルゴリズムの一種で、ディープラーニングのテクニックと大規模なデータセットを使用して、新しいコンテンツを理解、要約、生成、予測する。これらのモデルは、以前の言語モデルと比較して、学習と推論に使用するデータ量を劇的に増加させた。

この章では、より環境に優しいMLやAIシステムを構築する方法に焦点を当て、AIが我々の生活を変えるかどうか、世界を征服するかどうかについては触れない。しかし、気候変動の方がAIの台頭よりも人類にとって大きな脅威であると考えていることを、ここでお伝えしたいと思う。

なぜAIが独自の章を持つに値するのかを理解するために、AIの使用とAIモデルの急速な成長について説明する。³この章の大部分は、MLのライフサイクル全体における緩和アプローチに費やされている。ライフサイクルは様々な定義が可能であるが、本章では単純化したモデル（図8-1参照）にこだわる。グリーンAIはそれだけで一冊の本になる。本章は一口サイズである。

図8-1. MLのライフサイクルを簡略化したフローチャート

規模拡大と利用拡大

AIモデルがもともとムーアの法則のスピードで成長してきたことはすでに述べた。 ...