時系列基盤モデル#
時系列基盤モデル(time-series foundation models: FSTMs)とは、大量の時系列データで事前学習した
手法#
Chronos#
[2403.07815] Chronos: Learning the Language of Time Series
Amazonの研究者が出した論文。
T5ファミリーをベースにしたモデルで事前学習している。
時系列データの値をそのままトークンとしてTransformerに入れるイメージ
Chronos-Bolt#
Chronosの拡張版。
参考:追加学習なしの zero-shot で高精度な時系列予測 : Chronos-Bolt を AutoGluon で利用する | Amazon Web Services ブログ
限界#
通常の教師あり学習を使ったほうが精度がいい場合が多い
実データに対しては完全なfine-tuningが必要(few-shotでうまくいかない)
などと言われることも。
NeurIPSのワークショップ
NeurIPS2025のWorkshopのIntroductionで、現状の時系列基盤モデルは
実データに対しては完全なfine-tuningが必要(few-shotでうまくいかない)
教師あり学習した軽量なベースラインモデルが同程度のパフォーマンスを出す事が多い
データセットによって合う・合わないが大きい
といった状態にあることが述べられている
独自の非公開データに対しては予測が安定しない or 精度が期待を超えないことが多く、オリジナルで構築したモデルの精度のほうが高い状況で、まだ本番環境での運用は使い所を見定める必要がある
時系列基盤モデルの現在(2025/12) #機械学習 - Qiita