数理最適ソルバを用いたテキスト判別モデルの検証

DOI

書誌事項

タイトル別名
  • Verification of text classification model using mathematical optimization solver

抄録

<p>予測精度の高いニューラルネットワークモデル (NNモデル) であっても、入力データに微小なノイズ (摂動) が加わることによって予測が変わってしまうことがある。摂動の存在により、NNモデルをテキスト判別や機械翻訳などに用いた場合に問題が起きる可能性がある。このようなリスクを減らすためには、摂動に対してNNモデルがどれだけ頑健かを調べておくとよい。画像を入力としたNNモデルの頑健性を数理最適ソルバを用いて正確に調べる手法が提案されており、この手法をNNモデルの検証と呼ぶ。一方で、テキストを入力とした場合には、文字や単語が離散的であることから摂動の定義が難しい。そこで、本研究では単語埋め込みによる実数ベクトルを入力とすることで画像と同様の摂動を定義し、NNモデルの検証を行う手法を提案する。加えて、検証手法の妥当性を調べる実験を行ったところ、頑健さの異なる複数のモデルと本検証手法の間には相関が得られた。</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390288370503006080
  • NII論文ID
    130008051819
  • DOI
    10.11517/pjsai.jsai2021.0_3j4gs6c05
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
    • CiNii Articles
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ