---
url: /lm/xinghuo/introduction.md
description: >-
  星火 X2.5 是科大讯飞子公司词元星火 2026 年 9 月 1 日开源的端侧大模型系列，4B / 1.7B 双尺寸原生支持 100 万 Token
  上下文，Apache 2.0 协议，全国产算力训练。本文带你搞懂它是什么、能干什么、怎么在本地跑起来。
---

# 认识星火 X2.5：端侧首个原生百万上下文的开源模型

一个 4B 的小模型，能一口气读完 100 万 Token。

100 万 Token 是什么概念？粗略换算，差不多是把《三体》三部曲整整齐齐塞进去，还能剩点地方放你手头那份 300 页的产品手册。而这么干活的模型，权重文件只有 **8.23 GB**——一张入门级显卡就能装下。

2026 年 9 月 1 日，科大讯飞全资子公司**词元星火**（对外 XHToken / SparkLLM）开源了 **Spark-X2.5-4B** 和 **Spark-X2.5-1.7B**，官方给的头衔是"业界首个原生支持 100 万 Token 上下文的端侧模型"。

说句实话，我第一反应是警惕。"百万上下文"这词这两年快被用烂了，很多模型的做法是：训练时只吃了 32K，上线前靠位置插值硬拉到 1M，跑分好看，真塞满长文档就开始胡言乱语。所以我先去翻了 GitHub 仓库的架构说明——结果是我多虑了。

> 长上下文解决的是"信息能不能看全"，Agent 和工具调用解决的才是"看完之后能不能动手"。只堆前者，模型就是个记忆力超群的废物。

## 什么是星火 X2.5

星火 X2.5 是词元星火推出的**端侧通用大模型系列**，2026 年 9 月 1 日发布并开源，首批两个尺寸：

| 型号 | 参数量 | 原生上下文 | 权重体积 | 定位 |
| --- | --- | --- | --- | --- |
| Spark-X2.5-4B | 4,112,079,360（约 41 亿） | 1,048,576 Token | 约 8.23 GB（BF16） | 主力，跑代码和 Agent |
| Spark-X2.5-1.7B | 约 17 亿 | 1,048,576 Token | 更小 | 智能家居、机器人这类低延迟场景 |

协议是 **Apache 2.0**，没有月活阈值、没有"年营收超 XX 亿要报备"的附加条款，权重、代码仓库、部署文档全部开放，商用基本不用操心授权链。

两款模型**基于全国产算力平台完成全流程训练**，预训练用了约 **20 万亿 Token** 的多样化数据，再用高质量监督微调和大规模强化学习（官方提到 MOPD 后训练算法）打磨推理、代码、智能体和指令遵循能力。GitHub README 里明确写了训练跑在**华为昇腾集群**上。

有个细节挺有意思：这次开源的操盘主体是"词元星火"，科大讯飞的全资子公司，不是讯飞直接下场。而按官方预告，**9 月 7 日还会发布星火 X2.5-293B 旗舰通用大模型**。也就是说，4B 和 1.7B 是先头部队，真正的大菜在一周后。

## 星火 X2.5 有什么特点

* **1 层全注意力 + 3 层滑动窗口注意力的混合架构**：这是它敢喊"原生 1M"的底气。全注意力层负责抓住全局关键信息，三层滑动窗口层负责把长文本的计算开销压下来。纯全注意力跑 1M 上下文，计算量是长度的平方级，4B 模型根本扛不住；这么一掺，开销断崖式下降。**这不是插值撑出来的 1M，是训练时就按 1M 设计的架构。**
* **原生 1,048,576 Token 上下文**：官方 SGLang 启动命令里直接写 `--context-length 1048576`，单卡、tp-size 1。注意是"能力上限"，不是"随便跑满"，下面部署那节会细说。
* **覆盖 200 多种语言**：官方 README 原话是 "support for more than 200 languages"。
* **小而硬的代码能力**：官方口径是 X2.5-4B 在算法实现、代码补全与生成上，**可对标参数规模大 2 到 3 倍的云端模型**。这个说法下面有 benchmark 佐证。
* **天生为 Agent 设计**：官方明确说模型已深度集成 Codex、Claude Code、OpenClaw、Hermes 等主流 Agent Harness。这点很关键——说明他们不是先训个模型再想着怎么接工具，而是训练目标里就带工具调用。
* **多硬件、多框架通吃**：硬件支持 NVIDIA、华为、海光（Hygon）、后摩（HOUMO.AI）；推理框架兼容 vLLM、SGLang、llama.cpp、MLX；Ollama 和 LM Studio 也能跑；微调可以走 LLaMA-Factory。
* **Apache 2.0 协议**：想塞进自己的商业产品里，不用做署名手续。

> 把参数从 100B 卷到 1T 是一条路，把 1M 上下文塞进 4B 是另一条路。前者的账单是显卡，后者的账单是架构。星火 X2.5 选了后者。

## 星火 X2.5 能用在哪（真实案例）

### 个人办公：从一张表到双语报告，全自动

科大讯飞在 **Loomy**（讯飞自家的办公产品）上给了一个完整案例，流程是这样的：

用户上传一张销售明细表，提的需求是"做销售分析 + 出中英文双语部门业绩报告"。X2.5-4B 干了四件事：**先写脚本**完成数据汇总、关键指标提取和趋势分析 → **生成约 3000 字的中文部门业绩报告** → **沿用原有结构和格式生成英文版** → 最后**回头校验内容、结构和排版**。

注意最后那步。很多模型交付完就完了，它自己会回头检查一遍。这才是"能干活"和"能聊天"的分界线。

### 代码开发：4B 打 8B~12B

官方给的口径是对标大 2~3 倍的云端模型。benchmark 上（全部在 thinking mode 下测）X2.5-4B 的几个亮眼成绩：

| Benchmark | X2.5-4B | X2.5-1.7B | Qwen3.5-9B | Gemma4-E4B |
| --- | --- | --- | --- | --- |
| SWE-Bench Pro | **44.4** | 10.4 | 33.8 | 30.5 |
| SWE-Bench Multilingual | **53.3** | 23.3 | 43.3 | — |
| SciCode | 34.7 | 18.2 | 32.7 | 27.5 |
| AIME 2026 | **90.7** | 69.4 | 88.2 | 42.5 |
| HMMT Feb 2026 | **81.2** | 48.4 | 70.8 | 34.2 |
| IMO-AnswerBench | **74.2** | 45.4 | 69.8 | 26.9 |
| MCP-Atlas（MCP 工具调用） | **54.6** | 23.4 | 47.4 | 15.0 |
| BrowseComp（网页浏览） | **40.9** | 29.7 | 8.3 | 8.3 |
| τ²-bench（Agent） | 75.1 | 65.3 | **79.1** | 42.2 |
| BFCL-V4（函数调用） | 65.1 | 46.9 | **66.1** | 36.9 |
| IFEval（指令遵循） | 93.0 | 89.5 | 91.5 | 45.3 |
| GPQA | 67.4 | 43.8 | **77.2** | 54.5 |

数学是它最离谱的部分——**AIME 2026 拿到 90.7**，比 Qwen3.5-9B 的 88.2 还高，而后者参数量是它的两倍多。网页浏览 BrowseComp 40.9 对 Qwen3.5-9B 的 8.3，接近 5 倍差距，这大概率是长上下文带来的直接收益。

> 先泼盆冷水：这些数据**全部来自官方 README**，发布当天没有第三方独立复现。而且 τ²-bench、BFCL-V4、GPQA 三项它输给了 Qwen3.5-9B——**它不是全能冠军，是偏科生**。数学、代码、长文档是强项，工具调用的稳定性还差点意思。数字先看着，等社区实测。

### 智能家居：0.85 秒响应，这才是端侧的意义

在 **Domux 智能家居测试集**上，X2.5-1.7B 的控制指令**端到端执行正确率达 90.3%，平均响应时间仅 0.85 秒**。

0.85 秒这个数字比正确率更重要。你对着音箱说"关灯"，等三秒才响应，体感就是坏了。云端往返一趟的延迟，天然做不进这个场景——这就是端侧模型存在的理由。

### 机器人：断网也能持续感知

两个尺寸都可以部署在机器人本体或边缘设备上，支持操作控制、目标追踪、导航决策。官方的说法是"减少对云端连接和固定预设程序的依赖"。

### 长文档：一次读完，不用切段

官方举的是产品售后场景：把完整售后手册导入 X2.5-4B，模型先梳理各场景规则并标注章节；你再问"购买 10 天后设备故障、且使用过第三方耗材，符合换货要求吗"，它能**跨章节关联**退换货、故障处理、例外条件给出综合判断。你继续追加"用户住偏远地区、设备存有家庭地图"，它还能保持前文情境，结合物流、数据清除、费用承担、处理时限接着给建议。

这个能力以前只有云端大模型有。现在 8GB 的权重就能干。

## 初体验：怎么上手星火 X2.5

### 最省事：直接用 API

模型 API 已上线**讯飞星辰 MaaS 平台**（<https://maas.xfyun.cn/modelSquare>），**限时免费**。不想折腾环境的话，这是最快的路径。

### 权重在哪下

| 平台 | 地址 | 适合谁 |
| --- | --- | --- |
| Hugging Face | `XHToken/spark-x25` | 海外 / 网络通畅 |
| ModelScope（魔搭） | 搜 XHToken 的 Spark-X25 合集 | **国内用户推荐** |
| Modelers | modelers.cn/user/XHToken | 昇腾芯片用户 |
| SCNet | 搜 XHToken/Spark-X2.5-4B | 海光芯片用户 |
| Ollama | ollama.com/SparkLLM | 想直接 `ollama run` 的 |

### SGLang 起服务（官方主推，单卡 1M 上下文）

官方给的是预构建 nightly 镜像：

```bash
docker pull lmsysorg/sglang:nightly-dev-cu13-20260827-20621aa1
```

```bash
docker run -it \
  --gpus '"device=0"' \
  --ipc=host \
  -p 30000:30000 \
  -v "$MODEL_PATH":/root/Spark-X2.5-4B \
  lmsysorg/sglang:nightly-dev-cu13-20260827-20621aa1 \
  python -m sglang.launch_server \
    --model-path /root/Spark-X2.5-4B \
    --served-model-name spark2.5 \
    --tool-call-parser spark25 \
    --reasoning-parser qwen3 \
    --tp-size 1 \
    --mem-fraction-static 0.8 \
    --context-length 1048576 \
    --chat-template /root/Spark-X2.5-4B/chat_template.jinja \
    --host 0.0.0.0 \
    --port 30000
```

调它：

```bash
curl -s http://localhost:30000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "spark2.5",
    "messages": [{"role": "user", "content": "安徽的省会在哪里？"}],
    "max_tokens": 131072,
    "temperature": 1,
    "top_k": -1,
    "top_p": 0.95
  }'
```

官方推荐的采样参数是 **temperature=1.0、top\_p=0.95、top\_k=-1**，别照着别的模型习惯去调，容易跑偏。默认开思考模式，想关掉传 `"chat_template_kwargs": {"enable_thinking": false}`。

### vLLM 起服务

**注意：vLLM 需要先装官方插件**，不是开箱即用：

```bash
pip install uv
uv venv ~/spark2_5
source ~/spark2_5/bin/activate
git clone https://github.com/XHToken/Spark-plugin.git
cd ./Spark-plugin
uv pip install .
```

```bash
vllm serve "./Spark-X2.5-4B" \
  --port 30000 \
  --trust-remote-code \
  --served-model-name spark25 \
  --tensor-parallel-size 1 \
  --gpu-memory-utilization 0.7 \
  --enable-prefix-caching \
  --chat-template Spark-X2.5-4B/chat_template.jinja
```

### Mac 用户：走 MLX，不用转 GGUF

官方的 `Spark-MLX-LLM` 可以直接跑 Hugging Face 原版 checkpoint，支持 Apple Silicon GPU、Linux CPU 和 NVIDIA CUDA，**不需要先转 GGUF**：

```bash
git clone https://github.com/XHToken/Spark-MLX-LLM.git
cd Spark-MLX-LLM
python3 -m venv .venv && source .venv/bin/activate
python -m pip install -e .        # Apple silicon
```

```bash
spark-mlx-generate \
  --device gpu \
  --dtype bfloat16 \
  --model XHToken/Spark-X2.5-1.7B \
  --prompt "安徽的省会在哪里？" \
  --max-tokens 512 \
  --temp 0
```

### 想微调：LLaMA-Factory

官方建议用他们的 LLaMA-Factory 分支（<https://github.com/XHToken/LlamaFactory>）做增量训练。

## 诚实说：几个坑

* **"支持 1M"不等于"你的设备能跑满 1M"**。4B 的 BF16 权重是 8.23 GB，但 KV Cache 会随上下文长度线性增长——真塞满 100 万 Token，显存需求会远超模型本身。官方命令里 `--mem-fraction-static 0.8` 就是留了余量。日常用 128K~256K 更现实。
* **Ollama 和 LM Studio 不是开箱即用**。两者都依赖词元星火的**定制版 llama.cpp**（`XHToken/llama.cpp`），得自己编译。README 里的 Build 步骤是实打实的 cmake 流程，不是 `ollama pull` 一行完事。
* **框架支持属于"刚适配完"状态**。SGLang 要指定 nightly 镜像，vLLM 要装插件，llama.cpp 要用分支。这套组合拳意味着生产环境上之前得先在测试环境完整跑一遍。
* **所有 benchmark 都是官方自述**，发布当天没有第三方复现。数学能力看着漂亮，但 τ²-bench 和 BFCL-V4 输给 Qwen3.5-9B 也是事实。
* **9 月 7 日还有 293B 旗舰**。如果你不是非端侧不可，建议等等看，一周后的大版本可能更值得投入。

## 进阶

更多开源技术干货和学习资料，关注公众号「遇码」，领取专属福利。