October 2020
Intermediate to advanced
832 pages
13h 42m
Japanese
この付録では、TensorFlowの自動微分機能の仕組みを説明し、ほかのソリューションと比較する。
という関数を定義し、勾配降下法(またはその他の最適化アルゴリズム)を実行するために、その偏微分
と
が必要になったとする。その場合、選択肢は、手計算による微分、有限差分近似、フォワードモード自動微分、リバースモード自動微分である。TensorFlowが実装しているのは、この最後のオプションだ。それでは、これらのオプションを1つずつ見ていこう。
第1のアプローチは、紙と鉛筆を取り出し、自分の解析学の知識を駆使して手計算で偏導関数を導き出すことだ。今定義した
関数なら、それほど難しいことではない。5つの規則に従えばよい。
Read now
Unlock full access