抡锤者

@laobenxiong 你这套参数接近目前的极限了,还有一个SMITHY可以试试,--cache-ram多轮对话好像有用。

@深圳律师陈扬波 非常认同，王阳明的终极一悟:"我心光明，亦复何言"。其实这只是现代社会正常公民几乎人人具备的基础常识，也是社会能正常运作的基石。

@Lesch-Epifania 肯定写错了，应该是讯景 XFX SPEEDSTER MERC 310 AMD Radeon RX 7900 XTX Black Edition

如果硬件真的有pcie4.0x16,那么你可以 --split-mode tensor试试

--spec-draft-n-max 6 大概率拒绝率太高，要超过50%才是好参数，建议你调低，然后看看日志输出

感谢楼主分享，先顶再慢慢学习

感谢分享，先下载学习了。

@terry 劳模,每天只睡6小时。不过话说我也是如此。

,生产力相当可以了

mtp是必须要开的,然后用最新版本7.2.3rocm,自己编译最新版本llama.cpp

是的，双卡7900xtx也蛮好用的,能跑Q8,mtp后速度起飞,而且上下文可以打满256k,这样的生产力还是挺迷人的，目前的方案就已经足够做产品了。前提是要自己组硬件,有一定动手能力。我喜欢听蓝宝石显卡全力运作后风扇的"滋滋"声。

Qwen3.6-27B-UD-Q4_K_XL.gguf ,ubuntu24.04 vulkan 单卡 7900 xtx能到 50多的

单卡是vulkan更快(其实也有点不稳定,尤其prefill),双卡肯定是rocm更稳

--split-mode tensor,速度有明显提升，前提是cpu有双直连 pcie4.0x8通道
,

xrdp,c-nergy.be blog xrdp-installer-1.6.sh,也可以安装一个xfce4+xrdp,我用的 gnome + xrdp,c-nergy脚本一键安装,挺好用的。

居然是沙发,支持老特