April 2020
Intermediate to advanced
552 pages
6h 13m
Japanese
私たちは数値微分によって微分を求めることができました。しかし、数値微分には計算コストと精度の点で問題がありました。バックプロパゲーションは、その2つの問題を解決します! つまりは、微分を効率良く求めることができる上に、より誤差の小さい値を得ることができるのです。本ステップは、バックプロパゲーションの実装は行わずに理論の説明だけに留めます。そして、次のステップからバックプロパゲーションの実装を行っていきます。
バックプロパゲーションを理解する上でキーとなるのがチェインルール(連鎖律)です。チェイン(chain)とは「鎖」を意味し、複数の関数が連結して使われる様子を表します。チェインルールは、その連結した複数の関数(合成関数)の微分が、それを構成する各関数の微分の積へと“分解”できることを表します。
チェインルールについて具体例を出して説明しましょう。たとえばここに、
という関数があるとします。そして、この関数
が、
、、の3つの関数によって構成されているとしましょう。ちなみに、この関数は計算グラフで書くと、 ...
Read now
Unlock full access