Strata 跑 GLM-5.3-Flash！Project Maya 实测：Maya-M / Maya-S/ Maya-S24 对比，以及怎么把 MTP 接受率从 6% 推到 70%

[johnnybegood]

鸣谢 @stxpnet 在此帖中的提示： https://lcz.me/topic/2153/12 ， 我一直尝试在我的机器上跑 deepseek V4 flash 和 GLM 5.3 Flash , 后者现在终于基本可用了。

[farmer node]

本地部署未来可期，未来可期啊

[tom23]

r9700*2，256g内存跑估计可以了

[stxpnet]

@johnnybegood 666，老兄执行力太强啦！我也只是逛推时被算法推了一些信息，你是真跑通了。

后面希望作者继续打磨框架和模型，让低 bit 量化真正可用（顺带一提 IQ4_XS 这格式对 20/30 系显卡和 AVX2 CPU 都友好，这就是我双 3090 能跑起 Strata 的前提）。
我感觉GLM5.3 FLASH能上 50 t/s、KLD 降到 5% 以内就实用了。
（我目前在线用 GLM 5.3 Flash，经常给我限速 30 t/s，恶心的资本家！）

[johnnybegood]

@stxpnet 嗯， 等我3090修好回来， 我再双 3090测一下。 我觉得到40多应该没什么问题， 要稳定超过50的话， 可能要四通道内存+更好的cpu了，我这种消费级主板就不行了。

[johnnybegood]

@stxpnet 我实测跑了一些场景， 说实话个人感觉是比 Qwen3.8 flash 的 IQ3_S 好， 还真有点明显， 你觉得他更聪明一些。 也可能只是感觉。

[stxpnet]

这个还是得用一些 benchlocal或者 zxbench来实测半天，不然就只能纯靠自己的 感觉了。 目前来说我的IQ4_XS和glm 5.3 flash在线版体感差不多。 前者上下文256K，快2-3倍。后者有1M长上下文。

[stxpnet]

感觉升级更新啊,我3BIT的GLM 5.3 FLASH能本地跑50T/S我就会下载.

[johnnybegood]

@stxpnet 厉害了， 我再看看。这可是 glm5.3 啊！

[Ben Lee]

我也是前两天刚看到这个推送，大师们就上帖子了，感谢！