<![CDATA[【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya]]>针对Deepseek V4.1 Flash 1017 + GLM 5.3做的运行框架。

https://github.com/mw00/project-maya

刚刚看到，我也正在安装准备测试！

希望看到论坛各位大神的实测表现！

]]>https://lcz.me/topic/2455RSS for NodeSun, 25 Oct 2026 00:57:19 GMTTue, 20 Oct 2026 03:08:08 GMT60<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 22:18:31 GMT]]>我也在折腾 DeepSeek 1017，做了一个 Strata-DS 分支，当前部署和实测记录放在这里：双 RTX PRO 6000 + 48GB RAM 跑 DeepSeek 1017。

接下来准备和 Project Maya 对齐测试条件做一轮 benchmark，比较 prefill/decode、资源占用和工具调用，也看看能互相借鉴哪些优化。对照结果测完再更新，敬请期待！

]]>https://lcz.me/post/27483https://lcz.me/post/27483Sat, 24 Oct 2026 22:18:31 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 07:23:21 GMT]]>4张4080系列 2x4080s + 2x4080 用strata 最新的0.2.4 1M上下文 ISTA DASLab 的Iq2xs 本地实测
实际输入 Prefill Decode 首 token（含思考）
32,732 token 703 tok/s 43.3 tok/s 46.6 秒
131,050 token 1,065 tok/s 42.9 tok/s 123.4 秒
单人使用可用 但是 想爽玩还是的QFN q80

]]>https://lcz.me/post/27309https://lcz.me/post/27309Sat, 24 Oct 2026 07:23:21 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 01:36:04 GMT]]>🔥 本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2455-3984-1（系统自动发放，显示稍有延迟）

]]>https://lcz.me/post/27257https://lcz.me/post/27257Sat, 24 Oct 2026 01:36:04 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 01:34:15 GMT]]>@tiger-tc 我 3090+3080 20g， 128G ddr4 3600， 也能跑到 25t/s

]]>https://lcz.me/post/27256https://lcz.me/post/27256Sat, 24 Oct 2026 01:34:15 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 01:18:31 GMT]]>@Charly-Cheng 2张3090

]]>https://lcz.me/post/27251https://lcz.me/post/27251Sat, 24 Oct 2026 01:18:31 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 01:09:20 GMT]]>@applejuice
我也是DDR4,怎麼相差這麼多！難道是顯卡的關係？ 我用的顯卡是RTX 5000 Ada.
還是你用雙顯卡？

]]>https://lcz.me/post/27230https://lcz.me/post/27230Sat, 24 Oct 2026 01:09:20 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 00:34:14 GMT]]>其实strata的思路真的很适合mac studio统一内存。
比如m5 ultra的cpu真的强的没边，用它来配合gpu，简直天衣无缝。
而且统一内存还不用降低速度

]]>https://lcz.me/post/27227https://lcz.me/post/27227Sat, 24 Oct 2026 00:34:14 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Sat, 24 Oct 2026 00:05:29 GMT]]>@Charly-Cheng 我是用ddr4 2633

]]>https://lcz.me/post/27217https://lcz.me/post/27217Sat, 24 Oct 2026 00:05:29 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Fri, 23 Oct 2026 23:49:07 GMT]]>@applejuice

你的數據還不錯，應該是DDR5，我跑GLM 5.3，decode 只有 16 tok/s, 預填充也大約1k tok, 用polystrata 部署，decode 沒漲，預填充只有大約350 tok/s. 我關注GLM 5.3 模型，主要是他的專注力稀疏技術，在社群上的測試，是目前開源模型，在256k 上下文，長鏈任務，不會飄移的模型。
剛部署起來，打算找時間測試。
目前跑QFN IQ4 128k 上下文，長鏈任務飄移問題，有點頭痛，QFN Q4 256k, 長鏈任務，會因為長上下文召回率降低的問題，LLM 比較無法專注在任務主要的任務上。還需要叮嚀。
打算換GLM 5.3，測試。

]]>https://lcz.me/post/27208https://lcz.me/post/27208Fri, 23 Oct 2026 23:49:07 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Fri, 23 Oct 2026 20:15:00 GMT]]>@tiger-tc 这么牛逼，恭喜了！

]]>https://lcz.me/post/27189https://lcz.me/post/27189Fri, 23 Oct 2026 20:15:00 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Fri, 23 Oct 2026 00:57:52 GMT]]>提交的代码合并进官方版本了!

]]>https://lcz.me/post/26852https://lcz.me/post/26852Fri, 23 Oct 2026 00:57:52 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Thu, 22 Oct 2026 08:46:27 GMT]]>我在我的A40，48G显存+768G内存上，把DeepSeek-V4.1-Flash-1017的Q8量化，模型全放内存读，平均跑到了26T/S。已经有实用价值了，给项目提了PR，看能不能合并进去！专给大内存用户使用！
https://github.com/mw00/project-maya/pull/368
image.jpeg

]]>https://lcz.me/post/26718https://lcz.me/post/26718Thu, 22 Oct 2026 08:46:27 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Wed, 21 Oct 2026 13:31:46 GMT]]>Deepseek V4.1 Flash 1017 的表現有機會強過 QFN

GLM 5.3有人測試過好像不令人驚艷, TPS的效率開銷大

]]>https://lcz.me/post/26532https://lcz.me/post/26532Wed, 21 Oct 2026 13:31:46 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Wed, 21 Oct 2026 01:26:30 GMT]]>直接买就行了，只要你不在意隐私，或者搞两张华为96G显卡

]]>https://lcz.me/post/26345https://lcz.me/post/26345Wed, 21 Oct 2026 01:26:30 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Tue, 20 Oct 2026 23:43:58 GMT]]>看了下各种硬件下的速度，我的是跑不动的~

]]>https://lcz.me/post/26323https://lcz.me/post/26323Tue, 20 Oct 2026 23:43:58 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Tue, 20 Oct 2026 23:49:05 GMT]]>这个其实没啥尝试的必要，开销太大，完全不如用在线，需要隐私抗审查，27B和QFN足够了。
另外从仓库来看，不能证明是strata自己出的，估计碰瓷。

]]>https://lcz.me/post/26320https://lcz.me/post/26320Tue, 20 Oct 2026 23:49:05 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Tue, 20 Oct 2026 03:13:55 GMT]]>@applejuice 谁能跟Strata Qwen3.8 flash next比，我现在看到100decode以下都无感，哈哈哈哈哈

]]>https://lcz.me/post/26143https://lcz.me/post/26143Tue, 20 Oct 2026 03:13:55 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Tue, 20 Oct 2026 03:12:52 GMT]]>一直都有追踪
但是glm 5.3 flash 实在跑不动
50 decode, 1k prefill 没什么想玩的心

]]>https://lcz.me/post/26142https://lcz.me/post/26142Tue, 20 Oct 2026 03:12:52 GMT<![CDATA[Reply to 【最新】Strata专为Deepseek V4.1 Flash 1017 + GLM 5.3做的新分支-Project-Maya on Tue, 20 Oct 2026 03:12:38 GMT]]>图片.jpeg
这里最重要的不是能够加载一个几百 B 的模型，而是三个工程能力：

  1. Expert Placement / Expert Cache
    将高频激活的专家尽可能保留在显存，剩余专家由 CPU 和内存处理，并在需要时从 NVMe 加载。这可以减少显存不足带来的性能损失。
  2. 适配超大上下文
    GLM 路线使用 KV Streaming，将部分 KV Cache 放到系统内存；DeepSeek 路线则使用模型自身的压缩注意力缓存格式。它们不是同一套实现。
  3. 推测解码和请求服务
    GLM 支持原生 MTP 或 DFlash2 推测解码，最多 8 路并发请求；DeepSeek 支持自己的 DSpark drafter，但不能直接假定拥有与 GLM 相同的并发性能。
    此外，Maya 提供 OpenAI 兼容 API、Anthropic 兼容 API、Tool Calling、网页聊天和硬件监控。
]]>https://lcz.me/post/26141https://lcz.me/post/26141Tue, 20 Oct 2026 03:12:38 GMT