拡散モデルのメンバーシップ推論耐性の評価

抄録

近年,革新的な生成モデルとして拡散モデルが注目を集めている.本稿では,機械学習モデルのプライバシー漏洩を測る手法の一つであるメンバーシップ推論攻撃に対して,拡散モデルがどの程度耐性を持つか実験により評価する.具体的には,従来の生成モデルである敵対的生成ネットワーク (GAN) との比較や,拡散モデルに特有のハイパーパラメータであるタイムステップ,サンプリングステップ,サンプリング分散の観点から,拡散モデルのメンバーシップ推論耐性を評価する.実験は,ホワイトボックスとブラックボックスの両方の設定で,CIFAR-10 と CelebA データセットを用いた.その結果,拡散モデルの一種である DDIM は,GAN の一種である DCGAN と同等のメンバーシップ推論耐性を持つことが分かった.また,タイムステップが拡散モデルの耐性に大きな影響を与え,ノイズスケジュールの中間ステップが攻撃に対して最も脆弱であることも分かった.さらに,追加の分析を通じて 2 つの重要な洞察を得た.一つは,DDIM は少量の訓練データで低い FID を達成できる代わりに,攻撃に対して脆弱となる.もう一つは,ハイパーパラメータにおけるサンプリングステップは耐性に大きな影響を与えるが,サンプリング分散の影響は非常に限られている.

収録刊行物

キーワード

詳細情報 詳細情報について

問題の指摘

ページトップへ