キャラクターを設定したLLM対話生成におけるfine-tuneおよびfew shot promptの効果

DOI

書誌事項

タイトル別名
  • Effect of Fine-Tune and Few Shot Prompt in Character Profile for LLM Dialog Generation

説明

<p>LLM（大規模言語モデル）の登場により対話型AI が大きく注目を集めている。本研究では、プロンプトエンジニアリング、SFT（Supervised Fine Tuning）、RLHF（Reinforcement Learning from Human Feedback）の手法を使用し、どの程度の質と量のデータでLLMを訓練することで、キャラクター設定に逸脱しない対話を生成できるかを検証した。またキャラクター設定にSFTやRLHFで用いた学習データとは矛盾する内容を書いたときの応答生成を実験した。その結果、期待するような名前の出力を学習データ内外から行えることが確認できた。RLHFをすることでキャラクター設定に逸脱をせずに学習データにある名前を出力することが確認できた。キャラクター設定にSFTやRLHFで用いた学習データとは矛盾する内容を与えた場合、SFTやRLHFの学習よりも、キャラクター設定やFew Shot Promptの影響をより強く受けることが示唆された。</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390018971042364928
  • DOI
    10.11517/pjsai.jsai2024.0_3xin208
  • ISSN
    27587347
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ