AIを守るための防御的AIネットワークについて

DOI
  • 岡島 義憲
    情報統合技術研究合同会社
  • 山川 宏
    東京大学 全脳アーキテクチャ・イニシアティブ 理化学研究所 AI アライメントネットワーク

書誌事項

タイトル別名
  • About a defensive-AI network to protect Ais

抄録

<p>近年、高度な自律型AIの脆弱性に関する論文が急増し、過去AI技術を先導してきた専門家からの警告や提案も続いている。そこで、本論では、それら脆弱性に関する議論の動向を攻撃手法や対策案に注目してまとめる。 また、AIの脆弱性に起因するトラブルや災害からAI社会とAI組込みシステムを守りシステム運用の健全性を維持するために、AI組込みシステムの監視・介入機能を持つ端末「レッドチーム・エッジ・デバイス」をAI組込みシステムに搭載することを提案する。また、この端末に求められる機能についても概説する。</p>

収録刊行物

詳細情報 詳細情報について

  • CRID
    1390862345537807488
  • DOI
    10.11517/jsaisigtwo.2023.agi-026_60
  • ISSN
    24365556
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
  • 抄録ライセンスフラグ
    使用可

問題の指摘

ページトップへ