April 2020
Intermediate to advanced
552 pages
6h 13m
Japanese
前ステップまでの変更により、関数の入出力は複数取れるようになりました。そこでは、順伝播の実装を変更し、正しい計算ができることを確認しました。順伝播の次は、もちろん「逆伝播」です。本ステップでは、逆伝播の実装を行います。
逆伝播の実装を行うにあたり、まずは図13-1の足し算の計算グラフを見てみましょう。
図13-1 足し算を行う計算グラフの順伝播と逆伝播(y = x0 + x1の微分を求める関数は+'で表す)
図13-1のとおり、足し算の順伝播は入力が2つ、出力が1つです。逆伝播時は、それが逆になり、入力が1つ、出力が2つになります。数式で確認すると、
のとき、微分の公式より
、
と求められます。
Read now
Unlock full access