拡散モデルのメンバーシップ推論耐性の評価
抄録
近年,革新的な生成モデルとして拡散モデルが注目を集めている.本稿では,機械学習モデルのプライバシー漏洩を測る手法の一つであるメンバーシップ推論攻撃に対して,拡散モデルがどの程度耐性を持つか実験により評価する.具体的には,従来の生成モデルである敵対的生成ネットワーク (GAN) との比較や,拡散モデルに特有のハイパーパラメータであるタイムステップ,サンプリングステップ,サンプリング分散の観点から,拡散モデルのメンバーシップ推論耐性を評価する.実験は,ホワイトボックスとブラックボックスの両方の設定で,CIFAR-10 と CelebA データセットを用いた.その結果,拡散モデルの一種である DDIM は,GAN の一種である DCGAN と同等のメンバーシップ推論耐性を持つことが分かった.また,タイムステップが拡散モデルの耐性に大きな影響を与え,ノイズスケジュールの中間ステップが攻撃に対して最も脆弱であることも分かった.さらに,追加の分析を通じて 2 つの重要な洞察を得た.一つは,DDIM は少量の訓練データで低い FID を達成できる代わりに,攻撃に対して脆弱となる.もう一つは,ハイパーパラメータにおけるサンプリングステップは耐性に大きな影響を与えるが,サンプリング分散の影響は非常に限られている.
収録刊行物
-
- マルチメディア,分散,協調とモバイルシンポジウム2023論文集
-
マルチメディア,分散,協調とモバイルシンポジウム2023論文集 2023 1030-1037, 2023-06-28
- Tweet
キーワード
詳細情報 詳細情報について
-
- CRID
- 1050579057243697408
-
- Web Site
- http://id.nii.ac.jp/1001/00228068/
-
- 本文言語コード
- ja
-
- 資料種別
- conference paper
-
- データソース種別
-
- IRDB