<![CDATA[qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了]]>从dflash2换到dspark，代码的质量感觉上了一个台阶。
速度从110 t/s 掉到平均 85 t/s 还是可以的，任务量不小，一直在跟踪进度，react 转 react native web。
b47f239a-ed58-4e22-ac8c-843b32a73417-image.jpeg

]]>https://lcz.me/topic/1500RSS for NodeMon, 07 Sep 2026 16:03:19 GMTFri, 04 Sep 2026 09:23:34 GMT60<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Mon, 07 Sep 2026 10:40:10 GMT]]>跑這麼久 我都害怕我的顯卡過熱
目前還在研究怎麼壓溫度
大概只能用電風扇狂吹

]]>https://lcz.me/post/16415https://lcz.me/post/16415Mon, 07 Sep 2026 10:40:10 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:50:38 GMT]]>早上类似的项目 mac上取已登录的网站cookie，权限给到，Q6检查了下环境迅速取到，W4bash倒了好多回合十几分钟，要我远程去界面确认钥匙链才取到。。。

]]>https://lcz.me/post/16140https://lcz.me/post/16140Sun, 06 Sep 2026 04:50:38 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:45:14 GMT]]>@imbiplaza-ASUS 差不多 45tok均速，我还考了low的思考等级，丢一个项目过一段时间再去看，本身也有其他会话一起处理别的事，不会干等着
274fed60-ad9c-422b-9502-72fa3619faf9-image.jpeg

]]>https://lcz.me/post/16139https://lcz.me/post/16139Sun, 06 Sep 2026 04:45:14 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:36:32 GMT]]>@terry 我觉得挺多 实测是真的提升 擦屁股干了几次都很顺利 给人一种很安心的感觉 均速度45tok也能接受

]]>https://lcz.me/post/16137https://lcz.me/post/16137Sun, 06 Sep 2026 04:36:32 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:13:58 GMT]]>@Dady-Pan 请问要怎样让Q6 去审查。。。

我现在使用得都是 40ts - 50ts 在跑，一个小工具任务花半个小时，一个小时。。。

虽然跑出来一步到位，

然而我又要跑comfyui, 结果两个都要等。。。

看你们都是跑80ts - 100ts。。。

我想更快完工，然后q6 去审查。。。

还是。。。干脆买多一部server跑dsh算了。。。

]]>https://lcz.me/post/16131https://lcz.me/post/16131Sun, 06 Sep 2026 04:13:58 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:04:28 GMT]]>@Dady-Pan Q6真有提升？我怎么感觉FP8开发都毫无差异啊。

]]>https://lcz.me/post/16127https://lcz.me/post/16127Sun, 06 Sep 2026 04:04:28 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sun, 06 Sep 2026 04:02:48 GMT]]>等大佬测试结果，dflash2实际感受下来，复杂点会实现不完善，也出现部署服务失败，修复dsh会话bug直接干蹦，最后都是Q6擦屁股，但是sglang hicache多会话简直太好了，十几个会话都指向他，高频的128K2，其他中低频64K，完全无压力，平均速度都能70-80，，，，单会话100tok+，就这一点释放了其他设备；4080s32部署Q6 100K2 实现主框架写好文档，w4快速扫尾，Q6核查。。。

]]>https://lcz.me/post/16122https://lcz.me/post/16122Sun, 06 Sep 2026 04:02:48 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Sat, 05 Sep 2026 03:43:05 GMT]]>这个说法从机制上讲确实不科学。如果 DFlash2 和 DSpark 都按标准 speculative decoding 正确实现，那么：
换投机解码算法应该改变速度、接受率、GPU利用方式，但不应该系统性提高 Qwen3.8-27B 的代码能力。
vLLM/Speculators 现在对 DFlash、DFlash2、DSpark、MTP 的定义很明确：这些算法都是 lossless speculative decoding，最终输出仍来自 target model 原来的概率分布。
DSpark 多出来的东西，不是“增强模型智力”

DSpark 相比 DFlash 类方法，主要增加了两个头：
Markov head：让 block 内后面的 draft token 能参考前一个 token，提高草稿预测准确率；
confidence head：预测每个 draft token 被 target 接受的概率，决定验证多长的 block。

]]>https://lcz.me/post/15944https://lcz.me/post/15944Sat, 05 Sep 2026 03:43:05 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Fri, 04 Sep 2026 13:40:44 GMT]]>我的当今dsh 3d frog 游戏至今也迈向3千万输入，三十万输出...连续一小时修修改改

]]>https://lcz.me/post/15861https://lcz.me/post/15861Fri, 04 Sep 2026 13:40:44 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Fri, 04 Sep 2026 11:16:56 GMT]]>老弟测试完了发个作业帖子到论坛，大家都抄下，我也等着抄😂

]]>https://lcz.me/post/15836https://lcz.me/post/15836Fri, 04 Sep 2026 11:16:56 GMT<![CDATA[Reply to qwen3.8-27b-w4a16-awq 已经持续跑了15个小时了 on Fri, 04 Sep 2026 10:19:01 GMT]]>刚抄完dflash的作业，dspark这么好，你再发个帖子😂

]]>https://lcz.me/post/15831https://lcz.me/post/15831Fri, 04 Sep 2026 10:19:01 GMT