Transformerによる時系列予測

DOI

書誌事項

タイトル別名
  • Time Series Prediction by Transformer

説明

<p>一変量か多変量かに関わらず時系列予測は応用上重要であり,一変量のARIMAから多変量の自己回帰モデルVARなどが機械学習の技術として古くから使われ,RNNやCNNなどの深層学習も時系列予測に使われている.近年では,それらの複合型モデルであるLSTNetやMemory-Networkを使った時系列予測であるMTNetもあり,多変量時系列予測の精度を向上させる試みがなされている.一方,時系列とは異なる自然言語処理の世界ではTransformerが自然言語の系列予測でstate-of-the-artを達成し,その後転移学習を可能とするBERTなどに発展し,大きな進歩を遂げている.本研究の目的は,自然言語処理の世界の系列予測技術を時系列予測に応用できるかを評価することであり,Transformerをベースにして気温予測モデルを設計した.その結果,気象アンサンブルによるデータ同化予報やメッシュ地点などの説明変数が多変量で目的変数が一変量である時系列予測にはTransformerが良い精度を与えうることがわかった.</p>

収録刊行物

キーワード

詳細情報 詳細情報について

  • CRID
    1390003825189271936
  • NII論文ID
    130007856749
  • DOI
    10.11517/pjsai.jsai2020.0_1n4gs1301
  • ISSN
    27587347
  • 本文言語コード
    ja
  • データソース種別
    • JaLC
    • CiNii Articles
  • 抄録ライセンスフラグ
    使用不可

問題の指摘

ページトップへ