DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored ,换这个模型,hermes基本上不会中断长任务
freeman gemmy
@freeman gemmy
-
[求助] 7900XTX + Qwen3.8:27b 本地工作流踩坑:Codex Memory 自动关闭 & Hermes 复杂任务中途截断 -
8月21日周五晚上8点直播,欢迎大家前来讨论!支持老特,今晚见
-
[神器?]NVIDIA CMP170HX 80G显存CMP170HX显存可解锁至80GB这个描述就不太准确,CMP170HX按照显存区分也分两个版本8G和10G版,只有10G版才能解锁80G,但是就算能在nVidia-smi中看到有80G显存也没意义,80G显存并不能稳定运行,99%显存报错,实际能稳定运行的只有40G的解锁模式。8G版本虽然说可以直接解锁64G显存,里面有个天坑就是三星代工的版本,非常不稳定内存报错卡死奇奇怪怪的问题特别特别多。这个卡都是矿场锻炼好几年的,不怕死的可以试试。
-
AMD R 9700 32G到货了。一顿操作。整成无头算力卡了。经实测这卡更适合工作在X99主板。家用老机器升级慎重考虑。这卡不能上SGLang,极度麻烦不说还不稳定,不要问我怎么知道,说多了都是泪。vllm有现成docker镜像这个配置最简单但版本偏旧,也可以用VENV弄,这样vllm版本会新一点,已经可以上qwen3.8了,正在使用,但是感觉比3.6慢了好多,写写无审查代码找bug挺牛的,但不建议用来驱动hermes慢得吐血,hermes还是上deepseek v4flash吧
-
京东自营上架二手3090,标价8699,近期有自建本地AI算力的玩家可以给东哥走个面,单卡或者双卡TP都很有CP值,比7900XTX新卡更好!给近期想买3090显卡的兄弟们提个醒,3090在PCB背面放了12颗GDDR6X显存,仅靠背板被动散热。高负载下温度轻易突破100℃,长期高温会加速老化虚焊,导致花屏或直接点不亮。特别是想上双卡跑大模型的一定要注意散热,论坛中有个大神提议的开放式机箱,加显卡背对背放的方案不错,值得参考。
-
9070XT 还是 5060TI 选哪个用于本地27B UD-IQ4_XS .感谢其实可以考虑一下二手7900XTX 24G,上llama.cpp速度很快,毕竟接近1t的显存宽带