シャドウハック: LiDAR物体検出への敵対的攻撃

書誌事項

タイトル別名
  • Shadow Hack: Adversarial attacks on LiDAR object detection

抄録

物体検出は,センサにより取得したデータから物体の位置や種別を検出する重要な機能である.自動運転システムにおいては,カメラやLiDAR(Light Detection and Ranging)で取得したデータにより物体検出を行い,その結果を基に最も安全な経路を走行するよう車両を制御する.しかし,機械学習を用いた物体検出には敵対的サンプルに対する脆弱性が多く報告されている.本研究では,LiDAR物体検出モデルに対する新たな攻撃手法「シャドウハック」を提案する.これまでの攻撃手法は,摂動となる点群をLiDARデータに追加することで攻撃を行うものが主流であったが,本研究では意図的に不自然な影をLiDAR点群上に生成する手法を提案する.具体的には,攻撃者は予め生成した位置と形状の影をLiDAR点群上に配置するために赤外線吸収布などを使用する.この手法により,自動運転車のLiDAR物体検出を誤らせ,急ブレーキや衝突などの事故を誘発する可能性がある.本研究ではシミュレーションを用いてシャドウハック攻撃手法を再現し,攻撃の成功率を評価する.さらに,攻撃が成功する条件を明らかにすることで,対策手法を提案し,自動運転システムの頑健性向上に貢献することを目指す.

Object detection is an important function that detects the position and type of an object from the data acquired by sensors. In autonomous driving systems, object detection is performed using data acquired by cameras and LiDAR (Light Detection and Ranging), and the vehicle is controlled to travel along the safest route based on the results. However, many vulnerabilities to adversarial samples have been reported in object detection using machine learning. In this study, we propose a new attack method against LiDAR object detection models: Shadow Hack. While most previous attack methods have been based on adding perturbing point clouds to the LiDAR data, this study proposes a method to intentionally generate unnatural shadows on the LiDAR point clouds. Specifically, the attacker uses an infrared-absorbing cloth or similar material to place a shadow of a pre-generated position and shape on the LiDAR point cloud. This technique may mislead the LiDAR object detection of automated vehicles and cause accidents such as emergency braking and collisions. In this study, Shadow Hack attack method is simulated and the success rate of the attack is evaluated. Furthermore, by revealing the conditions under which the attack succeeds, we aim to propose countermeasure methods and contribute to improving the robustness of autonomous driving systems.

収録刊行物

詳細情報 詳細情報について

問題の指摘

ページトップへ