AIの同一性の確認についての一考察
書誌事項
- タイトル別名
-
- A study on the Identification of AI
説明
<p>一般的にソフトウェアの真正性は同一性によって確かめられる.すなわち,ハッシュ値などを用い,作成者が提供するソフトウェアとユーザの手元のソフトウェアが実行ファイルとして同一だと確認できれば,作成者の意図したソフトウェアとして真正性が認められる.一方,近年で実用化が進むAIについて真正性を確認したい場合,従来のソフトウェアにおける真正性の考え方が適切かは自明でない.なぜなら,ニューラルネットワークを用いたAIには,ユーザが利用している間にも継続的に学習を行うことで内部パラメータを更新して出力も変化していくものがあり,こうしたAIのモデルの変化は,必ずしも作成者の意図したものとは限らないためである.しかし,こうしたAIの変化であっても,AIの自立的な進化と捉えて作成者の意図に反しなければ真正性を持ち,その意味で変化前のAIと同一だと言える可能性がある.本稿では,AIにおける同一性について,既存の認証フレームワークを参考にし,一定の範囲内の変化であれば同一のAIとみなせるという発想のもと,AIの同一性を確認するレベルを提案し,複数のユースケースにおいてどのような確認が求められるか検討した.</p>
収録刊行物
-
- 人工知能学会全国大会論文集
-
人工知能学会全国大会論文集 JSAI2022 (0), 3B3GS1104-3B3GS1104, 2022
一般社団法人 人工知能学会