深層ニューラルネットワークにおけるヘッセ行列の近似手法による固有値への影響調査

IPSJ

Search this article

Description

深層学習の汎化性能にヘッセ行列の固有値が強く相関を持つことが知られている。近年、最先端の性能を発揮する学習手法も、ヘッセ行列の固有値を考慮した方法となっている。しかしながら、深層NNでは計算量が膨大となるため、一般に近似手法によって計算されたヘッセ行列が用いられてる。本研究では、深層学習において、各種近似手法がヘッセ行列の固有値に及ぼす影響を調査する。

Journal

Keywords

Details 詳細情報について

Report a problem

Back to top