测试时间：2026-10-23 ｜ 测试方式：API 流式/非流式实测（127.0.0.1:8080 + 公网隧道）
引擎：Project Maya v1.1.25（build/maya-ds4）· 模型：DeepSeek-V4.1-Flash-1017（Maya-S 量化）

一、软硬件环境

硬件

软件

引擎配置

--max-context 393216（384K）· --tp 2 · 3 GPU · 无视觉 · 专家分层：

二、性能实测数据

1. 生成速度（流式，免思考，1200 tok/轮）

2. 思考模式（thinking budget 修复后）

3. Prefill（prompt 读取）

长 prompt 更快的原因：v1.1.19+ 的长 prompt 跳层（DeepInfer 方法，20-39 层只算最后 ~2.7K token）+ NVMe 页缓存变热。文档越长读取效率越高。

4. 对话缓存

重复同题首 token 0.44 s（conversation checkpoint 命中），同类新题 0.0-1.5 s。

5. 公网链路（cloudflared quick tunnel）

6. 资源占用（384K KV cache 下）

三、纵向对比（同机 DeepSeek Maya-S）

与 GLM Maya-L（同机 v1.1.25，384K，parallel 2）对比：GLM 44-46 tok/s，DeepSeek 55-56 tok/s 快约 20%。

四、校准与调优记录

• DS4 校准（./maya.sh --calibrate）：--tp 2(40.0) > --tp 1(39.4) > --tp 3(37.2)——tp 2 为最优；3 卡显存互不相等（48/16/32 GB），TP 只能两两配对，其余各跑各的层
• PCIe lane 自适应：引擎实测 CPU lane（0.24-1.1 ms/专家）vs GPU 流式（1.1-1.5 ms）vs 磁盘（5.3-6.3 ms），自动关闭不划算的流式
• 页缓存：随使用增长（当前 125 GB），磁盘 miss 持续减少

五、结论

1. 本机 DeepSeek Maya-S 已接近该硬件的理论上限：三卡利用率均衡，RAM/SSD 分层工作正常
2. v1.1.25 相比 v1.1.22 全面提升：生成 +16%、长 prompt 读取 +26%
3. 384K 上下文的 KV 开销被引擎优化完全吸收，无回退