拡散モデルのメンバーシップ推論耐性の評価

情報処理学会

抄録

近年，革新的な生成モデルとして拡散モデルが注目を集めている．本稿では，機械学習モデルのプライバシー漏洩を測る手法の一つであるメンバーシップ推論攻撃に対して，拡散モデルがどの程度耐性を持つか実験により評価する．具体的には，従来の生成モデルである敵対的生成ネットワーク (GAN) との比較や，拡散モデルに特有のハイパーパラメータであるタイムステップ，サンプリングステップ，サンプリング分散の観点から，拡散モデルのメンバーシップ推論耐性を評価する．実験は，ホワイトボックスとブラックボックスの両方の設定で，CIFAR-10 と CelebA データセットを用いた．その結果，拡散モデルの一種である DDIM は，GAN の一種である DCGAN と同等のメンバーシップ推論耐性を持つことが分かった．また，タイムステップが拡散モデルの耐性に大きな影響を与え，ノイズスケジュールの中間ステップが攻撃に対して最も脆弱であることも分かった．さらに，追加の分析を通じて 2 つの重要な洞察を得た．一つは，DDIM は少量の訓練データで低い FID を達成できる代わりに，攻撃に対して脆弱となる．もう一つは，ハイパーパラメータにおけるサンプリングステップは耐性に大きな影響を与えるが，サンプリング分散の影響は非常に限られている．

収録刊行物

キーワード

詳細情報 詳細情報について

問題の指摘

ページトップへ