機械学習のモデル保護の研究とその周辺動向

DOI

書誌事項

タイトル別名
  • Studies on Model Protection for Machine Learning and Its Research Trends

抄録

機械学習のデータ保護においてはデータを秘匿化した学習が盛んであるが，商用モデルの公開に至るまで要した負荷を鑑みると，モデルそのものに対する保護も極めて重要な問題である．本論文ではモデルそのものの保護において，モデルを攻撃者が保有する環境で運用する場合と，攻撃者と独立した環境で運用する場合，それぞれの研究について著者らの成果を含めた動向を紹介する．まず前者の観点として，モデルを秘密計算と呼ばれる入力を暗号化したまま出力を計算する技術を用いることで，攻撃者にモデルそのものを隠したまま運用できるモデル秘匿を紹介する．秘密計算自体は一般に負荷が大きいが，ニューラルネットワークの代数構造を秘密計算に合わせて検討することで，推論性能を改善できることを示す．次に，後者の観点として，サービスを提供するモデルの推論結果を通じて，攻撃者が学習データなく手元にモデル（以降，抽出モデルと呼ぶ）を得るモデル抽出攻撃を述べる．特に攻撃者の処理として，攻撃対象のモデルの出力を偏りをもたせて学習することで，より効率的に抽出モデルを得られることを示す．また，その潜在的な対策技術についても紹介する．

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390571039717389696
  • DOI
    10.14923/transcomj.2020nsi0001
  • ISSN
    18810209
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ