ゼロからのディープラーニング

第2章. 基礎知識

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

第1章では、Deep Learningを理解するための主要な概念的構成要素である、入れ子になった連続微分可能関数について説明した。私は、これらの関数を計算グラフとして表現する方法を示し、グラフの単一ノードが単一の単純な関数を表すことを示した。特に、このような表現によって、入れ子になった関数の出力の入力に対する導関数を計算する方法が簡単にわかることを示した。単純に、すべての構成関数の導関数を取り、これらの関数が受け取った入力でこれらの導関数を評価し、すべての結果を掛け合わせる。NumPyのndarraysを入力とし、ndarraysを出力とする関数で、これが実際に機能することを簡単な例で説明した。

微分を計算するこの方法は、関数が複数のndarrayを入力として取り込み、 を行列の乗算演算子で結合する場合でも機能することを示したが、この演算子は、これまで見てきた他の演算子とは異なり、その入力の形状を変化させる。具体的には、この演算の1つの入力（入力Xと呼ぶ）がB×Nndarray であり、この演算のもう1つの入力WがN×Mndarray である場合、その出力PはB×Mndarray となる。このような演算の微分が何になるかは明確ではないが、行列の乗算子ν(X, W)が入れ子関数の「構成演算子」として含まれている場合でも、その微分の代わりに簡単な式を使って入力の微分を計算できることを示した。 $\frac{\partial \nu }{\partial u}\left(W\right)$は^XTで埋めることができる。 $\frac{\partial \nu }{\partial u}\left(X\right)$は^WTでプレーできる。

この章では、これらの概念を実世界での応用に移していく：

1. 線形回帰をこれらの構成要素で式に表す

2. 第1章で行った導関数の推論によって、この線形回帰モデルを訓練できることを示せ

3. このモデルを（構成要素を使用したまま）1層のニューラルネットワークに拡張する。

そして第3章では、これらの同じ構成要素を使ってDeep Learningモデルを構築していく。

しかしその前に、教師あり学習の概要を説明しよう。教師あり学習は、ニューラルネットワークを使って問題を解決する方法を見ていく上で、我々が注目する機械学習のサブセットである。

教師あり学習の概要

、機械学習とは、データ中の関係を発見する、あるいは「学習」することができる アルゴリズムを構築することであると説明することができる。教師あり学習とは、すでに測定されたデータの特性間の関係を発見することに特化した機械学習のサブセットであると説明することができる。¹

この章では、実世界で遭遇する可能性のある典型的な教師あり学習の問題を扱う：家の特徴と家の価値の関係を発見することである。部屋の数、広さ、学校への近さなどの特徴と、その家がどの程度住みたいか、所有したいかということの間には、明らかに何らかの関係がある。高度なレベルでは、教師あり学習の目的は、これらの特徴をすでに測定していることを前提に、これらの関係を明らかにすることである。

測定」とは、各特徴が正確に定義され、数値として表現されていることを意味する。寝室の数、正方形の広さなど、家の多くの特性は当然数字で表すのに適しているが、トリップアドバイザーの自然言語による家の近所の説明など、他の異なる種類の情報があった場合、この問題の一部ははるかに単純ではなく、このあまり構造化されていないデータを合理的な方法で数字に変換することは、関係を明らかにする能力を左右する可能性がある。さらに、家の価値など定義が曖昧な概念については、それを表す数字をひとつ選ぶだけである。 ...