Negative Side Effect of Adversarial Training in Deep Learning and Its Mitigation

IPSJ

Bibliographic Information

Other Title
  • 深層学習におけるAdversarial Trainingによる副作用とその緩和策

Description

畳み込みニューラルネットワーク（Convolutional Neural Network, CNN）はその高い精度を理由に注目を集めているが，入力データに微小な改変を加えることでCNNによる認識を大きく誤らせることが可能な敵対的入力の存在が報告されている．この問題への対策として，敵対的入力を学習に活用するAdversarial Trainingと呼ばれる手法が提案されている．本稿では，CNNに対しこの手法を適用すると（本来高い精度で識別できるはずの）ランダムノイズが乗ったデータの識別率が大きく減少してしまうという問題を指摘する．また，その問題を解決するためにランダムノイズを付加した画像も学習に使用する手法を提案し，実験により提案手法の有用性を実証する．

Journal

Keywords

Details 詳細情報について

Report a problem

Back to top