詳説 Deep Learning ―実務者のためのアプローチ

1章機械学習の概要

霧のようなニュアンスを凝縮し、真実を手に入れます。

—— Neal Stephenson, 『Snow Crash』

1.1　学習する機械

ここ数十年の間に、機械学習への関心は爆発的に高まっています。コンピューターサイエンスのカリキュラムや産業界のイベントそして新聞の紙面では、毎日のように、機械学習という文字が見られます。このような機械学習への言及の中で、多くは実際にできることとできてほしいことを混同しています。機械学習とは本質的に、アルゴリズムを使って未加工のデータから情報を取り出し、何らかのモデルとして表現するというしくみです。このモデルを使い、別のデータについて推論が行われます。

ニューラルネットワークは、機械学習のモデルの一種であり、50年以上の歴史があります。ニューラルネットワークでの基礎的な構成要素はノードと呼ばれます。哺乳類の脳にあるニューロンを大ざっぱに模倣する形で設計されました。各ノードの間の接続も実際の脳に基づいて設計されており、これらの接続は訓練と呼ばれるプロセスを通じて洗練されていきます。ニューラルネットワークの詳しいしくみについては、2章と3章で解説します。

1980年代中ごろから90年代初頭にかけて、ニューラルネットワークのアーキテクチャーについて大きな進歩が多数見られました。しかし、良い成果を得るためには大量の時間とデータが必要でした。そのせいで普及は妨げられ、ブームは沈静化しました。その後2000年代に入ると、コンピューターの能力が指数的に向上しました。以前には不可能だったテクニックが、カンブリア期の生物のように爆発的に出現しました。ディープラーニングもこの流れの中で誕生し、機械学習のコンペの多くで好成績を収める有力な選択肢へと成長しました。今日もなおブームは続き、機械学習に関する議論の随所でディープラーニングという語が見られます。 ...