- 【Updated on May 12, 2025】 Integration of CiNii Dissertations and CiNii Books into CiNii Research
- Trial version of CiNii Research Knowledge Graph Search feature is available on CiNii Labs
- 【Updated on June 30, 2025】Suspension and deletion of data provided by Nikkei BP
- Regarding the recording of “Research Data” and “Evidence Data”
Tabular Data Model Extraction by Public and External Statistics
Bibliographic Information
- Other Title
-
- 表形式データ学習モデルに対する外部公開統計情報を用いたモデル複製攻撃
Description
機械学習に対する攻撃の一種である複製攻撃は,提供されているモデルに対するクエリとその出力の振る舞いから,攻撃者がそのモデルと同等のモデルを複製する攻撃である.CVPR 2021 で提案されたデータフリーモデル複製攻撃は,攻撃者の一切の背景知識を仮定することなく,MNIST は 1M クエリ,CIFAR10 は 10M クエリ程度でモデルの複製に成功している.本稿では,表形式データを学習したモデルに対して,外部に公開されている統計情報を利用する設定のより現実的なデータフリーモデル複製攻撃の可能性を示す.表形式データでは,攻撃者が統計情報をもとに生成したランダムなデータをクエリするだけで数千クエリから数万クエリで同等のモデルを複製できる知見を得た.またランダムクエリベースの手法と遺伝的アルゴリズムアルゴリズムベースの手法の向き不向きについて議論する.
Model Extraction attack is a kind of Machine Learning attack, where the attacker is able to steal provided model. In CVPR 2021, a Data-Free Model Extraction attack that does not require any dataset and samples has been proposed and success to steal image trained model by few millions queries. In this paper, we have studied a realistic data-free tabular data model extraction attack by public and external statistics and show that there is a risk of stealing trained model by few thousands queries.
Journal
-
- コンピュータセキュリティシンポジウム2021論文集
-
コンピュータセキュリティシンポジウム2021論文集 292-299, 2021-10-19
情報処理学会
- Tweet
Keywords
Details 詳細情報について
-
- CRID
- 1050292572110637824
-
- NII Article ID
- 170000186076
-
- Text Lang
- ja
-
- Article Type
- conference paper
-
- Data Source
-
- IRDB
- CiNii Articles