深層ボルツマンマシンに対する高性能な平均場近似アルゴリズム

IPSJ

Search this article

Description

Deep Boltzmann machine (DBM) は，restricted Boltzmann machine (RBM) と呼ばれる完全2部グラフ上に定義される確率モデルを多層に積み重ねた確率的深層学習モデルである．確率モデルに対する計算処理は変数の期待値の計算を必要とするが，計算量の問題により現実的には困難である．期待値の近似計算に，平均場近似と呼ばれる統計力学の近似法が使われており，RBMとDBMの両方に対して重要な手法となっている．RBMに対しては，モデルの周辺化を行い，層を消去してから平均場近似を行うことで，モデルそのものに対して平均場近似を行う場合よりも近似精度が高くなることが既に示されている．本講演では，この手法を拡張的にDBMに適用する．さらに，周辺化によりDBMの層数を減少させていくほど平均場近似の性能が向上することを，数学的・数値的両観点から示す．

Journal

Keywords

Details 詳細情報について

Report a problem

Back to top