抡锤者

我也打算把 7900XTX显卡 绑起来了，那根 PCIE 线买哪种啊？有没有链接给一个啊。谢谢楼主

我改32k上下文后，还是不行，按xiaote的方案还在改，干到一半它就罢工了，‍‍‍

完美啊！连夜肝一下试试。

。。。
这 30 天重度使用，感觉也花不起啊！
我的本地 7900XTX 老是罢工，给我气的！
求大佬指教两个问题
1.是跑QWEN3.8 27B 稠密模型
2.是跑 minimax H3 做视频
两个工作错峰排队使用，老是卡住，有时甚至罢工，怎么解决啊？
各位大佬有什么好的解决方案吗？

非常好，先收藏，以后升级可以参考了
感谢

我也在试，把我折腾得够呛

我要奔溃啦！一直没有跑通！

太帅了！
是 KV 缓存显存问题——27B Q4 模型（约 18GB）+ 128K 上下文 × q8_0 KV 会把 7900XTX 的 24GB 撑爆，KV 溢出到内存导致极慢。先确认，然后按你说的换 q4_0。我的 Q8 根本跑不动