Tabular Data Model Extraction by Public and External Statistics

IPSJ

Bibliographic Information

Other Title
  • 表形式データ学習モデルに対する外部公開統計情報を用いたモデル複製攻撃

Description

機械学習に対する攻撃の一種である複製攻撃は，提供されているモデルに対するクエリとその出力の振る舞いから，攻撃者がそのモデルと同等のモデルを複製する攻撃である．CVPR 2021 で提案されたデータフリーモデル複製攻撃は，攻撃者の一切の背景知識を仮定することなく，MNIST は 1M クエリ，CIFAR10 は 10M クエリ程度でモデルの複製に成功している．本稿では，表形式データを学習したモデルに対して，外部に公開されている統計情報を利用する設定のより現実的なデータフリーモデル複製攻撃の可能性を示す．表形式データでは，攻撃者が統計情報をもとに生成したランダムなデータをクエリするだけで数千クエリから数万クエリで同等のモデルを複製できる知見を得た．またランダムクエリベースの手法と遺伝的アルゴリズムアルゴリズムベースの手法の向き不向きについて議論する．

Model Extraction attack is a kind of Machine Learning attack, where the attacker is able to steal provided model. In CVPR 2021, a Data-Free Model Extraction attack that does not require any dataset and samples has been proposed and success to steal image trained model by few millions queries. In this paper, we have studied a realistic data-free tabular data model extraction attack by public and external statistics and show that there is a risk of stealing trained model by few thousands queries.

Journal

Keywords

Details 詳細情報について

Report a problem

Back to top