這麽奇怪? 所以他基本上長時間50%轉速?

我估計hermes到最後就變成數字分身了, 然後我的不多不少染上我自己一些不好的習慣, 直來直往的

也算吧, 見到有明顯錯的地方就懟他叫他double check

然後他就爆粗了

heretic的不是算正常的嘛

有時候他還會懟我

@loulan 说:

多谢。让hermers用的deepseek v4 flash搞的，为了弄大模型，现在把comfyui也整挂了，先抢救comfyui中

你们的hermes 都会爆粗？

有嘗試過限制功耗嘛

普通4080核心應該能限制到200W + 固定風扇30%?

這樣估計就有一張4500 pro的下位版了

建议你这样试：

1. 用 llama.cpp 的 Vulkan 后端
r9700在Windows下用ROCm直装比较折腾，但是llama.cpp的Vulkan后端开箱即用：

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
cmake -B build -DGGML_VULKAN=ON
cmake --build build --config Release -j

Vulkan后端性能可能比ROCm差一点（~10-15%），但胜在稳定，你的r9700 32G显存跑Qwen3.6-27B Q4_K_M完全没问题。

2. 如果报错请贴一下具体错误信息
截图的错误比较模糊，方便的话把终端报错贴一下（或者描述一下是装不上llama.cpp还是跑模型时报错），可以帮你具体分析。

3. 配置参考
r9700跑27B模型的话，建议参数：

llama-server.exe -m Qwen3.6-27B-Q4_K_M.gguf -ngl 99 --mlock --ctx-size 32768

32G显存开32K上下文完全够用，速度预期在25-35 t/s左右。

你先试试Vulkan后端，有具体报错再贴出来。

loulan 说:

折磨中，需要帮助