⚡ 前沿动态

Mistral 开源 Timestral 时间序列基础模型:5M 至 209M 四档,称在三项评测全部指标上前二

🕐 2026-10-30 前沿研究 🔥 46 次点击

Mistral 发布 Timestral,四个面向概率预测的时间序列基础模型,参数量分别为 5M、28M、123M 与 209M,权重在 Hugging Face、推理代码在 GitHub。官方称 209M 与 123M 在 GIFT-Eval、TIME 与 fev-bench 的全部报告指标上占据前两名。核心设计为解耦视界预测(DHF)、原生支持已知未来协变量的协变量框架,以及先在大规模合成语料上预训练、再在真实与合成混合数据上后训练的两阶段流程。

  • 类别: 研究与论文
  • 事件时间: 2026-10-29(Hugging Face 上线;技术报告 arXiv 版本日期为 2026-10-27)
  • 主要来源: [P0] Mistral AI 官方发布页(mistral.ai/news/timestral)、Hugging Face 模型集合、GitHub 推理代码、arXiv 技术报告;[P2] 多家媒体转述
  • 证据强度: B(技术报告与权重均为一手,但三项评测的名次目前只能归因于 Mistral 自报,本期未检索到第三方复现)
  • 技术锚点: H(新模型族、核心设计、实验设置、关键结果)、F(数据与方法论:合成语料预训练+真实混合后训练)
  • 关键词: Mistral、Timestral、时间序列基础模型、概率预测、解耦视界预测 DHF、GIFT-Eval、fev-bench、TIME、合成语料预训练、开放权重

Mistral AI 是法国的 AI 公司,以开放权重语言模型著称,Timestral 为其向非语言模态的扩展。Mistral 这次发布的不是语言模型。四个模型全部为概率时间序列预测而设计,输出的是分布而非点估计——这正是物流、能源与库存规划等生产系统真正需要的东西。

一、研究背景

现有做法大致两类:统计模型(可解释但难以跨序列泛化)和把表格数据塞进语言模型(能泛化但不输出校准的不确定性)。概率预测要求给出置信区间,而多数语言模型路线只给单点猜测。Timestral 的切入点是完全为时间序列设计架构,同时保持开放权重带来的可微调与数据不出域。

二、研究方法和过程

1. 解耦视界预测(DHF)

传统做法在训练长视界预测时会遮蔽上下文,导致同一观测值无法同时充当预测目标与后续预测的条件。DHF 把预测 token 与因果编码的上下文分离,使更长的视界无需遮蔽上下文即可训练,且每个观测值既是预测目标、又是后续预测的上下文。

2. 协变量框架

在因果架构下原生支持"已知未来"协变量(例如已排定的促销日历、节假日),这在真实预测场景里几乎是刚需,而多数通用架构需要额外改造。

3. 两阶段训练

先在大规模多样化合成语料上预训练,再在真实与合成混合数据、并使用扩展上下文做后训练。合成数据的价值在于可无限生成且分布可控,风险在于与真实分布的偏差——官方未披露两阶段的数据配比与合成数据的生成规则细节。

三、研究结果

1. 关键结果

项目 结果
模型档位 5M / 28M / 123M / 209M 参数,四档均开放权重
评测覆盖 GIFT-Eval、TIME、fev-bench
官方名次 209M 与 123M 在全部报告指标上分列第一、第二
小模型定位 5M 与 28M 未以榜单领先为目标,面向边缘部署与低延迟管线
可获得性 权重在 Hugging Face,推理代码在 GitHub

2. 局限与复现状态

  • 名次为 Mistral 自报,局限于所列的三个评测;本期未检索到第三方独立复现
  • 官方未披露完整消融实验、每个评测的具体指标数值与误差范围
  • 合成语料预训练的真实分布偏差未量化
  • 5M 与 28M 两档的精度损失官方未给出与 209M 的对照数字

四、相关研究横向对比

路线 代表 优势 局限
统计/经典方法 ARIMA、Prophet 等 可解释、资源占用低 跨序列泛化弱,需逐序列调参
通用语言模型转用 各类 LLM 表格方案 泛化强、可零样本 输出点估计为主,不确定性与校准弱
专用时间序列基础模型 Timestral、此前各闭源预测 API 概率输出、可微调、数据不出域 生态与工具链较新,第三方验证不足
闭源预测 API 各家托管服务 开箱即用 每次调用付费,专有序列需出域

五、局限与待验证事项

1. 适用范围

  • "全部指标前二"限定在 GIFT-Eval、TIME、fev-bench 三项评测;在领域专属数据(如零售 SKU 季节性、电网负荷)上的表现需要使用者自行验证
  • 四档模型的精度—延迟权衡官方未给出量化对照

2. 待验证指标

  • 第三方在真实业务序列上的复现结果与误差分布
  • 微调成本与收敛速度: 官方未披露在具体领域数据上微调所需的算力与数据量
  • 合成预训练占比对真实分布外表现的影响
声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
您觉得本文:
资料来源
  1. Mistral AI 官方发布页(mistral.ai/news/timestral)
← 返回 [前沿动态]