時系列基盤モデル

時系列基盤モデル#

時系列基盤モデル(time-series foundation models: FSTMs)とは、大量の時系列データで事前学習した

手法#

Chronos#

[2403.07815] Chronos: Learning the Language of Time Series

Amazonの研究者が出した論文。
T5ファミリーをベースにしたモデルで事前学習している。

時系列データの値をそのままトークンとしてTransformerに入れるイメージ

Chronos-Bolt#

Chronosの拡張版。

参考:追加学習なしの zero-shot で高精度な時系列予測 : Chronos-Bolt を AutoGluon で利用する | Amazon Web Services ブログ

限界#

  • 通常の教師あり学習を使ったほうが精度がいい場合が多い

  • 実データに対しては完全なfine-tuningが必要(few-shotでうまくいかない)

などと言われることも。

NeurIPSのワークショップ

NeurIPS2025のWorkshopのIntroductionで、現状の時系列基盤モデルは

  • 実データに対しては完全なfine-tuningが必要(few-shotでうまくいかない)

  • 教師あり学習した軽量なベースラインモデルが同程度のパフォーマンスを出す事が多い

  • データセットによって合う・合わないが大きい

といった状態にあることが述べられている

独自の非公開データに対しては予測が安定しない or 精度が期待を超えないことが多く、オリジナルで構築したモデルの精度のほうが高い状況で、まだ本番環境での運用は使い所を見定める必要がある
時系列基盤モデルの現在(2025/12) #機械学習 - Qiita