単語埋め込みに基づくサプライザル

DOI NINJAL Web Site Web Site 参考文献12件

書誌事項

タイトル別名
  • Surprisal through Word Embeddings
  • タンゴ ウメコミ ニ モトズク サプライザル

この論文をさがす

説明

<p>ヒトの文処理のモデル化として Hale によりサプライザルが提案されている．サプライザルは文処理の負荷に対する情報量基準に基づいた指標で，当該単語の文脈中の負の対数確率が文処理の困難さをモデル化するとしている．日本語において眼球運動測定を用いて文処理の負荷をモデル化する際に，統語における基本単位である文節単位の読み時間を集計する．一方，単語の文脈中の生起確率は形態素や単語といった単位で評価し，この齟齬が直接的なサプライザルのモデル化を難しくしていた．本論文では，この問題を解決するために単語埋め込みを用いる．skip-gram の単語埋め込みの加法構成性に基づき，文節構成語のベクトルから文節のベクトルを構成し，隣接文節間のベクトルのコサイン類似度を用いて，文脈中の隣接尤度をモデル化できることを確認した．さらに，skip-gram の単語埋め込みに基づいて構成した文節のベクトルのノルムが，日本語の読み時間のモデル化に寄与することを発見した．</p>

収録刊行物

  • 自然言語処理

    自然言語処理 26 (3), 635-652, 2019-09-15

    一般社団法人　言語処理学会

参考文献 (12)*注記

もっと見る

関連プロジェクト

もっと見る

キーワード

詳細情報 詳細情報について

問題の指摘

ページトップへ