深層ニューラルネットワークにおけるヘッセ行列の近似手法による固有値への影響調査

情報処理学会

この論文をさがす

説明

深層学習の汎化性能にヘッセ行列の固有値が強く相関を持つことが知られている。近年、最先端の性能を発揮する学習手法も、ヘッセ行列の固有値を考慮した方法となっている。しかしながら、深層NNでは計算量が膨大となるため、一般に近似手法によって計算されたヘッセ行列が用いられてる。本研究では、深層学習において、各種近似手法がヘッセ行列の固有値に及ぼす影響を調査する。

収録刊行物

キーワード

詳細情報 詳細情報について

問題の指摘

ページトップへ