⚡ 前沿动态
科大讯飞开源星火X2.5端侧模型:首个原生百万Token上下文端侧模型
科大讯飞子公司词元星火9月1日开源星火X2.5-4B和1.7B端侧模型,是端侧首个原生支持100万Token上下文的产品,采用混合注意力架构,基于全国产算力用约20万亿Token预训练,已上Hugging Face。
科大讯飞在2026年9月1日通过全资子公司词元星火正式开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型,这是全球端侧模型中首个原生支持100万Token上下文的产品,这是端侧模型中首个原生支持100万Token上下文的产品,此前百万级上下文仅存在于云端旗舰模型。4B和1.7B两个参数规格适配手机、PC、汽车座舱、智能家居和机器人等终端。基于全国产算力训练,支持华为、海光等国产平台,对端侧AI自主可控具有标杆意义。listAIDEeP⌘think.cn
一、技术参数
| 参数 | 星火X2.5-4B | 星火X2.5-1.7B |
|---|---|---|
| 参数量 | 4B | 1.7B |
| 上下文窗口 | 100万Token | 100万Token |
| 架构 | 混合注意力 | 混合注意力 |
| 预训练数据 | 约20万亿Token | 约20万亿Token |
| 训练算力 | 全国产算力平台 | 全国产算力平台 |
| 开源平台 | Hugging Face、GitHub | Hugging Face、GitHub |
二、场景化能力
它不需要依赖云端算力,就能在手机、PC、汽车座舱、智能家居、机器人等终端本地完成复杂长文档处理,解决了云端推理带来的网络延迟、数据隐私泄露、调用成本高的核心痛点。
- 智能家居控制Domux测试集端到端正确率90.3%,平均响应仅0.85秒。
- 4B版本的代码能力可对标参数规模大2-3倍的云端模型,完全满足本地代码补全、算法实现需求。
- 硬件适配覆盖英伟达、华为、海光及后摩等主流平台,兼容vLLM、SGLang、llama.cpp、Ollama、LM Studio等主流推理框架,开发者可快速完成本地化部署。
此前百万级长上下文能力仅集中在云端旗舰大模型,星火X2.5系列直接把该能力下放到端侧,打破了端侧模型长期受限于小上下文窗口的行业瓶颈,推动AI竞争从“比拼云端参数规模”转向“端侧场景效率落地”。
三、技术原理
星火X2.5的百万级长上下文不是单纯的“扩容文字容量”,而是通过混合注意力架构做定向优化:
- 预训练阶段使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据,让模型具备完整长序列理解能力。
- 围绕智能体、代码、数学与指令遵循四大核心能力做专项优化,通过高质量监督微调和强化学习,持续提升复杂任务的推理稳定性。
- 长上下文能力让模型可以完整读取全量业务资料,不会因为内容分段处理丢失跨章节关联信息,支撑连续复杂交互。listAIDEeP⌘think.cn
- 混合注意力架构将注意力层一分为二,一层负责通读全文建立宏观联系,另一层关注局部细节,跑满100万Token时显存占用仅为传统全局注意力模型的四分之一。
- 采用多教师在线策略蒸馏(MOPD)技术,由多个单科专家大模型实时指导小模型完成工具调用、错误检查与重试,强化复杂智能体任务能力。
四、落地场景
两款模型针对端侧高频场景做了深度适配,覆盖四大核心领域:
- 个人办公:本地完成数据处理、文档生成、翻译,上传销售明细表后可自动编写脚本完成数据汇总,直接生成3000字中英文部门业绩报告。
- 代码开发:支持算法实现、代码补全与生成,可通过DeepSeek Harness、OpenCode、Codex等开源Harness接入本地开发流程,全程无需上传代码到云端。
- 智能家居:90.3%的端到端控制正确率+0.85秒低延迟,可支撑复杂多条件的本地设备联动指令。listAIDEeP⌘think.cn
- 机器人:部署在机器人本体或边缘设备,支持操作控制、目标追踪、导航决策,大幅降低对云端网络的依赖。
- 高安全行业:适用于财务、审计、法务等对数据安全要求较高的行业,以及内网办公、工业终端等无法连接云端的场景,契合数据安全法规和国产化替代需求。
五、产品规划
- 9月7日,科大讯飞将正式发布全新一代旗舰通用大模型星火X2.5-293B,进一步升级代码和智能体等核心能力,形成“端侧小模型+云端旗舰大模型”的完整产品矩阵。
- 后续10月的科大讯飞全球1024开发者节上,还将推出另一款基于全国产算力训练的主力通用大模型,目标在代码能力和Token性价比上进入国内第一梯队。
声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
资料来源
- 人民网
- 科技日报
- 科学网