从 41 到 56 tok/s：我修好了 DFlash 官方 benchmark 的 bug，顺手在 7900 XTX 上搭了全套联网大模型

[terry]

没测试，以前出来会很有用，现在没有理由不接入Hermes，纯聊天很尴尬。

[williamlouis]

7900XTX 质量上下文 并能联网搜索 接入不了 Hermes。上下文长度不够。

[terry]

@williamlouis 你还别说，我的xtx，很久以来只是用来生成音频，其他的功能都丧失了，可以部署，抄下作业。

[williamlouis]

可以联网是开展工作流的基础。这样7900XTX就有了实战能力了。

[williamlouis]

联网+Qwen3.6-27B+ ltxv-13b-0.9.8-distilled-fp8(14.6G) 可以实现一个 自动产出的工作流了。
实测 老同学 2B的小模型和没有没什么区别。这个 2B是用来搞笑的生产力！

[fcme]

ddg的搜索质量还是有点堪忧啊，感觉用searngx做聚合，把你实测质量比较好的搜索源的权重提高点效果比较好。外挂搜索引擎确实是弥补本地小模型知识库这个最大短版的印度神油

[fcme]

@williamlouis
配合OpenWebUI看来不是搞代码的需求，这种情况下可以考虑27B的iQ3系列，日用和正常的Q4没什么区别。以前用5070ti的时候用这个效果很棒，又快又稳，简单的脚本之类的也没有问题。
下面这个实测不错，但是不要用xs和s版本那两个会崩，因为这些作者他们量化完了以后不会自己运行实际跑，所以要跑几个不同的版本精挑细选一下。
https://huggingface.co/mradermacher/Huihui-Qwen3.6-27B-abliterated-i1-GGUF?show_file_info=Huihui-Qwen3.6-27B-abliterated.i1-IQ3_XXS.gguf

[williamlouis]

我一直 用的 adspower.
补充下进展 联网+Qwen3.6-27B+cpu 纯编码 .sh .py .js 最终实现了视频工作流生产。
结论：在课件类视频中 实现指定逻辑是第一位的。 wan ltx 自身运行中的想象力不可控因素过多。不能实现无人程序化产出。

[stxpnet]

只看T/S，感觉还不如官方MTP，菜鸟之言。大神莫见笑。

[williamlouis]

任何模型能工作才是最重要的。网络中的各种测试都是一个参考。只能作为你没安装前的考量参数。
输出速度再快。不能24小时无人值守运行程序也是一个展示型玩物。
这篇帖子的精华是给大家一个低门槛能链接互联网的 Qwen 27B。没有这个基础模块各种项目无法开展。
没上更复杂的链接方式是讲清楚让所有人都能安装太墨迹了。这套操作的适用行最强。安装最简单。