- 【Updated on May 12, 2025】 Integration of CiNii Dissertations and CiNii Books into CiNii Research
- Trial version of CiNii Research Knowledge Graph Search feature is available on CiNii Labs
- 【Updated on June 30, 2025】Suspension and deletion of data provided by Nikkei BP
- Regarding the recording of “Research Data” and “Evidence Data”
Construction and Validation of a Pre-Trained Language Model Using Financial Documents
-
- SUZUKI Masahiro
- School of Engineering, The University of Tokyo
-
- SAKAJI Hiroki
- School of Engineering, The University of Tokyo
-
- HIRANO Masanori
- School of Engineering, The University of Tokyo
-
- IZUMI Kiyoshi
- School of Engineering, The University of Tokyo
Bibliographic Information
- Other Title
-
- 金融文書を用いた事前学習言語モデルの構築と検証
Description
<p>BERT を始めとする事前学習言語モデルは，様々な自然言語処理のタスクにおいて成果を上げている．これらのモデルの多くはWikipedia やニュース記事などの一般的なコーパスを用いているため，専門的な単語が使用される金融分野においては十分な効果が得られない．本研究では決算短信や有価証券報告書から事前学習言語モデルを構築する．また金融ドメインのタスクによって汎用モデルとの性能を比較する．</p>
Journal
-
- JSAI Technical Report, Type 2 SIG
-
JSAI Technical Report, Type 2 SIG 2021 (FIN-027), 05-, 2021-10-09
The Japanese Society for Artificial Intelligence
- Tweet
Details 詳細情報について
-
- CRID
- 1390856970593770496
-
- ISSN
- 24365556
-
- Text Lang
- ja
-
- Data Source
-
- JaLC
-
- Abstract License Flag
- Allowed