ニューロンを活性化させるテキストに基づくニューラル自然言語処理モデルの解析手法

DOI

書誌事項

タイトル別名
  • A Method for Inspecting Neural NLP Models Based on Text That Activates Neurons

抄録

<p>本研究では，ニューラル自然言語処理モデルをより深く理解するためのアプローチとして，モデルの最小構成要素であるニューロンの役割を，個々のニューロンを強く活性化させる文章に基づいて明らかにする方法論を提案する．提案手法は，大規模コーパスから各ニューロンを活性化させる文集合を抽出し，データマイニング技術を用いて抽出した文集合を抽象化することで，個々のニューロンが捉える言語現象を明らかにする．実験では，我々の手法を使用することで，与えられたモデルの各ニューロンが具体的にどのような言語的側面を捉えているのか，また複数のニューロンがどのように相互に関係しているのかという点について深い洞察を与えることを示す．</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390006895527440384
  • NII論文ID
    130008051875
  • DOI
    10.11517/pjsai.jsai2021.0_4h3gs11d02
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
    • CiNii Articles
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ