実践 時系列解析 ―統計と機械学習による予測

10章ディープラーニングによる時系列解析

ディープラーニングによる時系列解析は、試みとしては比較的新しく、有望視されています。ディープラーニングは極めて柔軟性の高い技法なので、時系列解析には好都合です。最も期待されているのは、極めて複雑で非線形的な時間的挙動を、関数形式を推測する必要なくモデル化する可能性が与えられることです。このことは、非統計的予測技法の流れを一気に変える可能性を秘めています。

ディープラーニングをよく知らない読者のために、1段落で要約します（詳細は後述します）。ディープラーニングとは、入力ノードをノードとエッジの複雑な構造体に連結するような「グラフ」を構築する、機械学習の一部門のことです。値は、1つのノードからエッジを介して別のノードに移る際に、エッジの重みを掛けられ、続いて通常は何らかの非線形活性化関数に通されます。この非線形活性化関数が、ディープラーニングを非常に面白いものにしています。これまではあまり成功しなかった、極めて複雑な非線形データの当てはめが可能になるからです。

主にこの10年で、市販のハードウェアの進歩と巨大なデータの組み合わせによってこの種の強力なモデル当てはめが可能になり、ディープラーニングは大きく成功しました。何百万という数のパラメータを取りうるディープラーニングモデルを理解する1つの手は、まずありとあらゆる行列積や非線形変換があるグラフを何か思い浮かべ、それに対して、モデルを一度に少量のデータに対して最適化して、この大きなモデルの重みを連続的に調整し、出力が次第に向上していくような賢いオプティマイザを放つことをイメージしてみることです。ディープラーニングを一言で表すと、こうなります。

ディープラーニングは、予測の分野ではまだ、例えば画像処理や自然言語処理分野ほどの目を見張るような成果を出していません。しかし、ディープラーニングがそのうち予測の技巧を向上させつつ、従来の予測モデルに一般的な、脆くて非常に一様な性質を持つ仮定や技術的要件を減少させていく、と楽観してよい正当な理由があります。 ...