ゼロから作るDeep Learning ❸ ―フレームワーク編

ステップ30高階微分（準備編）

現在のDeZeroは、微分を自動で求めることはできますが、それは1階微分に限られます。ここでは、2階微分を自動で求められるように――さらには、3階微分、4階微分、...と高階微分を求められるように――、DeZeroを拡張していきます。

DeZeroを使って2階微分を求めるには、現在のバックプロパゲーションの実装を根本から見直す必要があります。DeZeroのバックプロパゲーションの基盤は、VariableとFunctionクラスで行われています。そこで、まずはVariableとFunctionの2つのクラスについて、現状の実装を簡単に振り返ります。これからの話は少し長くなるので、3つの節に分けて確認作業を行います。

30.1　確認作業①：Variableのインスタンス変数

最初に、Variableクラスのインスタンス変数について復習します。まずは、Variableクラスの初期化を行う __init__メソッドだけを抜き出して示します。

class Variable:
    def __init__(self, data, name=None):
        if data is not None:
            if not isinstance(data, np.ndarray):
                raise TypeError('{} is not supported'.format(type(data)))

        self.data = data
        self.name = name
        self.grad = None
        self.creator = None
        self.generation = 0
    ...

上のとおり、Variableクラスはいくつかのインスタンス変数を持ちます。ここでは、その中の ...