テンソルデータ拡充を用いた組織内ネットワーク攻撃判定方式の回避攻撃に対する防御手法の提案

情報処理学会

書誌事項

タイトル別名
  • Enhanced Resistance to Evasion Attack of an Attack Detection Method on Internal Networks Using Tensor Data Expansion

説明

サイバー攻撃を自動かつ高精度に発見する機械学習システムが開発されている．一方，機械学習に特有な攻撃が発見され，機械学習を用いたシステムのセキュリティに関する研究の重要性が高まっている．特有な攻撃の1つである「敵対的入力」は，機械学習の推論時に「元の入力を少し変化させた」入力を作成することにより，本来の推論結果と異なる推論結果を意図的に出力させる攻撃である．我々は，DICOMO2020で組織内ネットワークの通信から攻撃通信を検知するシステムに対して，敵対的入力を作成して攻撃判定システムの意図的な回避に成功した．Adversarial Trainingと呼ばれる既存防御手法を適用したが，作成した敵対的入力のうち約50%しか検知できなかった．本稿では，攻撃判定システムの精度劣化を抑えながら，より多くの敵対的入力を検知する防御手法を提案し，実験結果を報告する．提案手法は，訓練データの重複コマンドに注目し，重複コマンドをそのまま訓練したモデルと重複コマンドを除去して訓練したモデルを用いるStackingをベースのアンサンブル学習を行う．結果，提案手法は従来手法と比較して敵対的入力の検知率を約50%から約90%に改善した．

Machine Learning is often applied to Cyber Security. At the same time, attacks specialized in Machine Learning have been observed, and then AI security is needed to run Machine Learning systems safely. Adversarial examples are inputs to Machine Learning models that an attacker has injected perturbations into original inputs to cause the model to make a mistake. In DICOMO2020, we proposed a method of crafting adversarial examples against an attack detection method on internal networks. In order to detect the adversarial examples, we employed Adversarial Training, which is now most effective defense scheme. However, it has detected approximately half of them. In this paper, we propose a defense scheme that is keeping accuracy for standard data and able to detect more adversarial examples than before. Our scheme is based on Ensemble Learning called stacking using two different type of data. We indicate that it detects approximately 90% of them.

収録刊行物

キーワード

詳細情報 詳細情報について

問題の指摘

ページトップへ