偽発見率を保証したコンセプトによる説明可能モデルの学習
書誌事項
- タイトル別名
-
- Learning Concept-based Explainable Model that Guarantees the False Discovery Rate
抄録
<p>近年,深層学習モデルに解釈性を与える研究が近年盛んに行われている.コンセプトボトルネックモデル(CBM)は,画像入力から人間が直感的に理解できるコンセプトへ,そしてコンセプトから目標値へ線形モデルでマッピングする説明可能なモデルである.人間はモデルの予測したコンセプトを参照することで,モデルの判断根拠を理解することができるため,解釈性の高い手法だと考えられている.CBMは解釈性に優れるが,サンプルの識別において,あるコンセプトが本当に予測に重要かどうかは統計的な裏付けがない.そこで本研究では,CBMで予測をするとき,予測に重要なコンセプトを一定の偽発見率の下でコントロールする手法を提案する.本手法ではコンセプトの表現に変分オートエンコーダーによって獲得される潜在変数を利用し,ノックオフ(Knockoff)と呼ばれる特徴選択のツールを用いて,提案モデルにおける識別に重要なコンセプトの偽発見率を一定以下に保証される.実験では,複数のデータセットを用いて,提案手法で選択したコンセプトが高い解釈性を持し,かつ,選択したコンセプトだけを用いて予測を行うときでも高い予測精度に達成できることを示す.</p>
収録刊行物
-
- 人工知能学会全国大会論文集
-
人工知能学会全国大会論文集 JSAI2022 (0), 4G1OS4a02-4G1OS4a02, 2022
一般社団法人 人工知能学会
- Tweet
キーワード
詳細情報 詳細情報について
-
- CRID
- 1390292706102509696
-
- 本文言語コード
- ja
-
- データソース種別
-
- JaLC
-
- 抄録ライセンスフラグ
- 使用不可