マボロシオロシ: 自律飛行型ドローンを標的とした投影攻撃の分析とロバストな対策手法の提案

書誌事項

タイトル別名
  • MaboroshiOroshi: Analysis and a Robust Countermeasure of Projection Attacks on Autonomous Drones

抄録

プロジェクタで投影したオブジェクトを物体検出に示すことで,実際に存在するオブジェクトとして誤認識させる``phantom attack'' と呼ばれる攻撃が知られている.この攻撃は,自律飛行型ドローンのように物体検出を応用するシステムの脅威となり得ると考えられている.一方で,先行研究では,phantom attackの実現性に関する詳細な評価は行われておらず,攻撃による影響は未知数である.また,phantom attackへの対策として,カメラ画像を入力とする深層学習モデルを用いることで,検出したオブジェクトが実物か投影かを識別する手法が提案されている.しかし,この手法は,学習用データセットに含まれない未知の種類のプロジェクタに対する精度劣化が大きく,頑健性に向上の余地があることが判明している.そこで,本論文では,投影と攻撃対象となる自律飛行型ドローンの距離や角度を考慮した実験により,攻撃の具体的な成功率を評価する.さらに,フーリエ変換を用い,実物と投影における輝度変化の差異を可視化することで,深層学習による識別を行う対策手法を提案する.この手法を評価した結果,既存手法と同程度の精度を維持しつつ,未知の種類のプロジェクタに対する精度劣化を大きく低減できることがわかった.

There is a visual spoofing attack called ''phantom attacks'' that misleads object detectors to misrecognize a projected object as a real object. This attack is a threat to autonomous systems (including autonomous drones) that apply object detection. On the other hand, previous studies have not evaluated feasibility of phantom attacks in detail, and impact of the attack is unknown. Furthermore, as a countermeasure against phantom attacks a method that identifies whether a detected object is real or projected by using a deep learning model with camera images as input is proposed. However, this method has a problem in robustness, and performance degrades for unknown type of projector that is not included in training data. Therefore, in this paper, we evaluate attack success rate by conducting experiments considering angle and distance between projection and target drone. In addition, we proposed a countermeasure using a deep learning model that utilize differences in luminance change between real object and projected object visualized by Fourier transform. This method can reduce the performance degradation about unknown type of projector while maintaining performance at the same level as existing method.

収録刊行物

詳細情報 詳細情報について

問題の指摘

ページトップへ