scikit-learn、Keras、TensorFlowによる実践機械学習 第2版

10章人工ニューラルネットワークとKerasの初歩

鳥が飛行機のヒントとなり、オナモミが面ファスナー（いわゆるマジックテープ）のヒントになったように、自然界はさまざまな発明のヒントを提供している。そのことを考えれば、知的なマシンの構築方法のヒントを得るために脳の構造を調べようとするのは当然のことだろう。これがMLP（multi-layer perceptron：多層パーセプトロン）、（ANN：artificial neural networks）を生み出した論理である。しかし、鳥にヒントを得て作られた飛行機は、翼をはばたかせる必要はない。同様に、ANNは次第に生物学側のイトコとは大きく異なるものになってきている。研究者のなかには、クリエイティビティを生物学的に説明できるシステムの枠のなかに押し込めないように、生物学的な類推を取り除くべきだと論じる人々さえいる（たとえば、「ニューロン」ではなく「ユニット」という言葉を使うことによって）†1。

[†1] 機能する限り、生物学的に非現実的なモデルを作ることを恐れずに、生物学からのひらめきにも心を開くようにすれば、両方の世界の最良の部分を取り入れることができる。

ANNは、深層学習の中核である。ANNは柔軟、強力、スケーラブルで、数十億の画像を分類したり（たとえば、Google画像検索）、音声認識サービスを支えたり（たとえば、AppleのSiri）、毎日数億人のユーザーにお勧めビデオを推薦したり（たとえば、YouTube）、囲碁の対局で世界チャンピオンを負かせる方法を学習する（DeepMindのAlphaGo）、といった大規模で高度に複雑な機械学習タスクに挑戦するためには理想的な存在である。

この章の最初の部分では、最初期のANN アーキテクチャからスタートし、今日多用されている ...