Lucebox DFlash + PFlash 7900XTX Qwen3.6-27B ~2.8–3.1x加速 测试数据分享

[terry]

还是需要测试TurboQuant+Dflash，总之必须要同时工作，否则对于24G卡没有意义。

[David Zhang]

@terry 在试了... 等我发帖

lucebox 现在已经 有了 tq_3, 意不意外，惊不惊喜。

[iamvirus]

我以为llama.cpp mtp已经稳定在50-60很爽了，但是prefill在上下文时 prefill稳定的下降，agent影响很大
这个prefill 这么稳定，搞得我再想买一个7900xtx了！不知道质量如何

[QuincySnow]

如果是AMD卡的话可以使用https://github.com/Kaden-Schutt/hipfire ,目前还不太成熟,但是我是6650XT在Liunx跑Qwen 3.5 9B可以到达45 tok/s,且如果开启DFlash 之后更快

[David Zhang]

@QuincySnow 这货 8k ctx以上就会炸，4k随便完

[QuincySnow]

只能等它优化了,至少有专门优化的可以选择不是吗?

[David Zhang]

@QuincySnow 是啊，希望那哥们加油，最近一段好几天没大版本放出来，但是目前的4k性能跟vulkan差不多，不知道能不能更强，等一段时间再试试看。

[David Zhang]

@terry 更新了tq3_0, 你可以出场了

[David Zhang]

想抄作业的 看这里
Lucebox DFlash + PFlash 编译与部署指南 Qwen3.6-27B 方便抄作业 (Linux)

[iamvirus]

@QuincySnow 这个你需要自己改代码

[coin1860]

dflash 不错， pflash 要关注一下， 我让gemini 搜索作者承认pflash 不是无损的。 作为agent 我觉得无所谓， 但是编程就有点伤。还是等你们测试实际的效果。

[terry]

@David-Zhang 最近我不折腾了，我后面还要再买一张xtx再折腾，现在被油管这个AI视频政策弄的头疼，我这几天一直在纠结做什么内容，烦死了。

[David Zhang]

@terry 嗯嗯，看你时间啊，不慌。

[David Zhang]

@coin1860 嗯嗯，我这几天先测测看

[terry]

@David-Zhang 简化下，争取让我复制粘贴，全程鼠标搞定，，我特么被油管用魔障了。

[zhenyu huang]

问一下 这个配置是必须物理层面的linux环境吗 还是wsl2也可以照抄

[ltyely]

感谢大佬，可以抄作业了

[sirwang]

我K，这么详细的数据，这是要交稿吗？！ 帅~~~！

[blackjack]

@iamvirus 说:

我以为llama.cpp mtp已经稳定在50-60很爽了，但是prefill在上下文时 prefill稳定的下降，agent影响很大
这个prefill 这么稳定，搞得我再想买一个7900xtx了！不知道质量如何

只要吃满kv cache，不回退check point甚至full re prefill，每轮问答新增加的prefill对速度影响忽略不计吧。我把hermes hack到几乎没有前缀和尾缀漂移了，kv cache吃到极限100%命中。生成速度30tps，已经很满意了。我笔记本5090

[joe1900]

本来只是路过，看到楼主的作业忍不住要来点赞！！