人に搾取的意思決定を促す自己犠牲エージェント

DOI

書誌事項

タイトル別名
  • Self-sacrificing agents that encourage people to make exploitative decisions

抄録

<p>人とAIが協力的な関係を構築することは知られている．しかし，搾取的関係，特に人がAIを搾取する関係を構築する方法は未知である．他者との協働場面における協力的な行動の選択は，評判などの事前に得た相手の情報と，インタラクション中に観察される相手の行動出力履歴から構築される相手モデルによって予測した行動に応じて決定される．我々は，人が社会的価値志向性（Social Value Orientation : SVO）に基づいた合理的エージェントの生成モデルを相手モデルとして持ち，観察された状況と行動から，相手のSVOを推論し，それに基づいて相手の行動予測をすると考える．本研究では，繰り返し（iterated）囚人のジレンマにおいて，マゾキズム（masochism），殉死的（martyrdom）, 利他的（altruistic）を含む，SVO角度を0度から180度まで22.5度ずつに区切って生成したSVOに対応した6種類の表情パターンを表出し，常に協力を選択するAIに対して人が協力を選択するか否かを計測した．実験の結果，人は殉死的な表情パターンのAIを搾取することがわかった．</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390015333244584704
  • DOI
    10.11517/pjsai.jsai2023.0_3i1os4b04
  • ISSN
    27587347
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ