データサイエンスのための数学入門 ―Pythonで学ぶ線形代数、確率、統計の基礎

7章ニューラルネットワーク

回帰や分類の手法の中でも、この10年で再び注目を集めるようになったもののひとつがニューラルネットワークです。ニューラルネットワークとは、入力変数と出力変数の間に、重み、偏り（バイアス）、非線形関数を持つ層をいくつも重ねた多層回帰モデルです。特にその中でも、多数の重みや偏りのノードがある「隠れ層（中間層）」を持ったものを指して深層学習（ディープラーニング）と呼びます。それぞれのノードは線形関数のように動作し、活性化関数と呼ばれる非線形関数に渡されます。これは、「5章　線形回帰」で学んだ線形回帰とも共通する点があります。それは、確率的勾配降下法などの最適化手法を使って、最適な重みと偏りの値を見つけ出して残差を最小化するという点です。

ニューラルネットワークは、これまでコンピューターが解決することが困難だった問題に対して画期的な解決策を提供しています。画像内の物体識別から音声に含まれる言葉の認識に至るまで、多くのツールが生み出され、日々の生活に大きな影響を与えています。バーチャルアシスタントや検索エンジン、iPhoneの写真機能などもその一例と言えるでしょう。

メディアで盛んに報道され、その素晴らしさが注目されているニューラルネットワークですが、実は1950年代にはもうすでに存在していました。2010年以降に急速に普及した背景には、利用可能なデータ量が劇的に増えたことと、コンピューターの計算能力が飛躍的に向上したことがあります。中でも、2011年から2015年にかけて開催されたImageNetチャレンジは、ニューラルネットワークが復活する最大のきっかけになったと言えるでしょう。このチャレンジでは、140万枚の画像を1,000カテゴリに分類する画像分類タスクで、96.4%という高精度が達成されました。 ...