Google publie TimesFM-3, 330 M paramètres pour séries multivariées
TL;DR
- TimesFM-3 est le premier modèle de la famille pré-entraîné nativement pour la prévision multivariée, sur plus d'un trillion de points de séries temporelles.
- Le modèle décroche le premier rang moyen chez les foundation models pré-entraînés sur GIFT-Eval, fev-bench et le TIME leaderboard, en métriques ponctuelles et probabilistes.
- Le code reste Apache-2.0, mais les poids 3.0 sont sous licence non-commerciale et non-production ; TimesFM 2.5 demeure l'option Apache-2.0 pour le déploiement.
Google Research a publié TimesFM-3, un modèle de fondation de 330 millions de paramètres qui prévoit plusieurs séries temporelles corrélées en une seule passe avant. C'est la première itération pré-entraînée nativement en multivarié : selon MarkTechPost, "every TimesFM checkpoint through 2.5 was univariate: one series, its own history, nothing else".
L'architecture repose sur un transformer décodeur qui découpe les séries en patches de 32 pas, puis les fait circuler dans une grille 2D traversée par deux attentions alternées. "Causal temporal attention runs horizontally" pour bloquer toute fuite temporelle ; "Full variate attention runs vertically", chaque token lisant les autres séries au même pas pour apprendre les corrélations croisées. Le modèle accepte plusieurs cibles, des covariables passées et des covariables passé-futur, sans fine-tuning spécifique.
Sur les benchmarks, Google écrit avoir évalué son modèle "on GIFT-Eval, fev-bench, and the TIME leaderboard, against Chronos-2, the Toto 2.0 family, and TimesFM-2.5". Verdict : "Among pretrained foundation models, TimesFM-3 takes the top average rank on all three, for both point and probabilistic metrics". Le classement couvre 100 tâches réelles pour fev-bench et 98 tâches sur 50 datasets pour TIME.
La licence tranche avec l'ouverture affichée par la lignée. Le code du dépôt reste sous Apache-2.0, mais les poids 3.0 sont livrés sous une licence maison, "timesfm-non-commercial-license-v1.0", et sont "restricted to non-commercial, non-production use". TimesFM 2.5, univarié mais Apache-2.0, reste donc la seule option déployable en production pour la plupart des équipes.
La sortie s'ajoute à une séquence dense de publications Google suivies chez nous ces trois derniers mois, et rejoint un petit lot de papiers de recherche que nos veilleurs ont relayés fin août. Les poids et le code sont hébergés sur Hugging Face et GitHub.
Article original publié par marktechpost.com
Lire l'article original →Titre original : Google Research publie TimesFM-3, un foundation model 330 M de paramètres pour la prévision multivariée en zero-shot