Prompt-tuningによるHallucinationの事後修正

DOI

書誌事項

タイトル別名
  • Post-editing of Hallucinations by Prompt-tuning

抄録

<p>様々な言語処理タスクに対して大規模言語モデル（LLM）の活用が広まりつつあるが，大規模言語モデルには事実と整合しない情報を生成するというhallucinationの問題が指摘されている．これを解決するため，機械学習を利用してhallucinationの検出器，修正器を構築する方法が提案されているが，検出器による誤検出や修正器による過剰修正が発生し，十分な解決に至っていない．一方，hallucinationの検出，修正にLLMそのものを利用する方法も提案されているが，それらはmulti promptを利用したパイプライン処理をしているため，誤検出，過剰修正に対する本質的な解決策となっていない．そこで，本研究では，single prompt による事後修正手法を提案する．数字と固有名詞に関するhallucination に焦点を当て，既存手法との比較評価を行い，提案手法の有効性を確認した．</p>

収録刊行物

詳細情報 詳細情報について

  • CRID
    1390580682415454336
  • DOI
    10.11517/jsaislud.100.0_101
  • ISSN
    24364576
    09185682
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
  • 抄録ライセンスフラグ
    使用可

問題の指摘

ページトップへ