⚡ 前沿动态

科大讯飞开源星火X2.5端侧模型:首个原生百万Token上下文端侧模型

🕐 2026.09.04 星期五 来源 · 媒体 🔥 22 次点击

科大讯飞子公司词元星火9月1日开源星火X2.5-4B和1.7B端侧模型,是端侧首个原生支持100万Token上下文的产品,采用混合注意力架构,基于全国产算力用约20万亿Token预训练,已上Hugging Face。

科大讯飞在2026年9月1日通过全资子公司词元星火正式开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型,这是全球端侧模型中‌首个原生支持100万Token上下文‌的产品,这是端侧模型中首个原生支持100万Token上下文的产品,此前百万级上下文仅存在于云端旗舰模型。4B和1.7B两个参数规格适配手机、PC、汽车座舱、智能家居和机器人等终端。基于全国产算力训练,支持华为、海光等国产平台,对端侧AI自主可控具有标杆意义。listAIDEeP⌘think.cn

一、技术参数

参数 星火X2.5-4B 星火X2.5-1.7B
参数量 4B 1.7B
上下文窗口 100万Token 100万Token
架构 混合注意力 混合注意力
预训练数据 约20万亿Token 约20万亿Token
训练算力 全国产算力平台 全国产算力平台
开源平台 Hugging Face、GitHub Hugging Face、GitHub

二、场景化能力

它不需要依赖云端算力,就能在手机、PC、汽车座舱、智能家居、机器人等终端本地完成复杂长文档处理,解决了云端推理带来的网络延迟、数据隐私泄露、调用成本高的核心痛点。

  • 智能家居控制Domux测试集端到端正确率‌90.3%‌,平均响应仅0.85秒。
  • 4B版本的代码能力可对标参数规模大2-3倍的云端模型,完全满足本地代码补全、算法实现需求。
  • 硬件适配覆盖英伟达、华为、海光及后摩等主流平台,兼容vLLM、SGLang、llama.cpp、Ollama、LM Studio等主流推理框架,开发者可快速完成本地化部署。

此前百万级长上下文能力仅集中在云端旗舰大模型,星火X2.5系列直接把该能力下放到端侧,打破了端侧模型长期受限于小上下文窗口的行业瓶颈,推动AI竞争从“比拼云端参数规模”转向“端侧场景效率落地”。

三、技术原理

星火X2.5的百万级长上下文不是单纯的“扩容文字容量”,而是通过混合注意力架构做定向优化:

  • 预训练阶段使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据,让模型具备完整长序列理解能力。
  • 围绕智能体、代码、数学与指令遵循四大核心能力做专项优化,通过高质量监督微调和强化学习,持续提升复杂任务的推理稳定性。
  • 长上下文能力让模型可以完整读取全量业务资料,不会因为内容分段处理丢失跨章节关联信息,支撑连续复杂交互。listAIDEeP⌘think.cn
  • 混合注意力架构将注意力层一分为二,一层负责通读全文建立宏观联系,另一层关注局部细节,跑满100万Token时显存占用仅为传统全局注意力模型的四分之一。
  • 采用多教师在线策略蒸馏(MOPD)技术,由多个单科专家大模型实时指导小模型完成工具调用、错误检查与重试,强化复杂智能体任务能力。

四、落地场景

两款模型针对端侧高频场景做了深度适配,覆盖四大核心领域:

  1. 个人办公‌:本地完成数据处理、文档生成、翻译,上传销售明细表后可自动编写脚本完成数据汇总,直接生成3000字中英文部门业绩报告。
  2. 代码开发‌:支持算法实现、代码补全与生成,可通过DeepSeek Harness、OpenCode、Codex等开源Harness接入本地开发流程,全程无需上传代码到云端。
  3. 智能家居‌:90.3%的端到端控制正确率+0.85秒低延迟,可支撑复杂多条件的本地设备联动指令。listAIDEeP⌘think.cn
  4. 机器人‌:部署在机器人本体或边缘设备,支持操作控制、目标追踪、导航决策,大幅降低对云端网络的依赖。
  5. 高安全行业‌:适用于财务、审计、法务等对数据安全要求较高的行业,以及内网办公、工业终端等无法连接云端的场景,契合数据安全法规和国产化替代需求。

五、产品规划

  • 9月7日,科大讯飞将正式发布全新一代旗舰通用大模型‌星火X2.5-293B‌,进一步升级代码和智能体等核心能力,形成“端侧小模型+云端旗舰大模型”的完整产品矩阵。
  • 后续10月的科大讯飞全球1024开发者节上,还将推出另一款基于全国产算力训练的主力通用大模型,目标在代码能力和Token性价比上进入国内第一梯队。
声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
资料来源
  1. 人民网
  2. 科技日报
  3. 科学网
← 返回 [前沿动态]