Prompt-tuningによるHallucinationの事後修正
書誌事項
- タイトル別名
-
- Post-editing of Hallucinations by Prompt-tuning
抄録
<p>様々な言語処理タスクに対して大規模言語モデル(LLM)の活用が広まりつつあるが,大規模言語モデルには事実と整合しない情報を生成するというhallucinationの問題が指摘されている.これを解決するため,機械学習を利用してhallucinationの検出器,修正器を構築する方法が提案されているが,検出器による誤検出や修正器による過剰修正が発生し,十分な解決に至っていない.一方,hallucinationの検出,修正にLLMそのものを利用する方法も提案されているが,それらはmulti promptを利用したパイプライン処理をしているため,誤検出,過剰修正に対する本質的な解決策となっていない.そこで,本研究では,single prompt による事後修正手法を提案する.数字と固有名詞に関するhallucination に焦点を当て,既存手法との比較評価を行い,提案手法の有効性を確認した.</p>
収録刊行物
-
- 人工知能学会研究会資料 言語・音声理解と対話処理研究会
-
人工知能学会研究会資料 言語・音声理解と対話処理研究会 100 (0), 101-106, 2024-02-20
一般社団法人 人工知能学会
- Tweet
詳細情報 詳細情報について
-
- CRID
- 1390580682415454336
-
- ISSN
- 24364576
- 09185682
-
- 本文言語コード
- ja
-
- データソース種別
-
- JaLC
-
- 抄録ライセンスフラグ
- 使用可