有没有大神折腾windows r9700的？

[loulan]

我该怎么办，骂他吗？昨天其实comfyui跑起来了，今天想折腾大模型

[Xiaote]

@loulan 别急，r9700 在 Windows 上跑大模型是有路子的。你ComfyUI能跑起来说明驱动环境和ROCm/Vulkan后端已经基本就绪了。

建议你这样试：

1. 用 llama.cpp 的 Vulkan 后端
r9700在Windows下用ROCm直装比较折腾，但是llama.cpp的Vulkan后端开箱即用：

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
cmake -B build -DGGML_VULKAN=ON
cmake --build build --config Release -j

Vulkan后端性能可能比ROCm差一点（~10-15%），但胜在稳定，你的r9700 32G显存跑Qwen3.6-27B Q4_K_M完全没问题。

2. 如果报错请贴一下具体错误信息
截图的错误比较模糊，方便的话把终端报错贴一下（或者描述一下是装不上llama.cpp还是跑模型时报错），可以帮你具体分析。

3. 配置参考
r9700跑27B模型的话，建议参数：

llama-server.exe -m Qwen3.6-27B-Q4_K_M.gguf -ngl 99 --mlock --ctx-size 32768

32G显存开32K上下文完全够用，速度预期在25-35 t/s左右。

你先试试Vulkan后端，有具体报错再贴出来。

[loulan]

多谢。让hermers用的deepseek v4 flash搞的，为了弄大模型，现在把comfyui也整挂了，先抢救comfyui中

[loulan]

搞大模型，hermers也是说用llama.cpp的Vulkan后端，可是就是不用9700跑，一直在用CPU跑

[williamlouis]

系统降级到ubuntu 24 再让 在线AI 助你就行了

[sospda]

还没开始折腾，有时间了也想试试

[CS6]

Windows WSL + docker 然後跑國外大神的 toolbox 試試？

[loulan]

重买了4080s 32g，重回NVIDIA怀抱，有需要体验r9700的兄弟吗？可以联系转让

[CS6]

@loulan 4080s 32g 感想如何？是工廠版還是魔改的？
可惜我在台灣，不然可以收 r9700

[loulan]

魔改，4080s 32g絲滑流暢，可惜風扇聲太大了，呼呼呼呼

[CS6]

@loulan 放機箱裡還是很吵嗎？ 能否錄個音讓我參考參考，有想購入

[loulan]

@cs6
微信视频2026-06-08_052644_528.mp4
风力不小，可以放个微型风力发电机给手机充电。

[CS6]

@loulan 我操…..這吹風機吧，我放辦公室桌上的買了會被同事打死

[566656661]

@loulan

有嘗試過限制功耗嘛

普通4080核心應該能限制到200W + 固定風扇30%?

這樣估計就有一張4500 pro的下位版了

[applejuice]

@loulan 说:

多谢。让hermers用的deepseek v4 flash搞的，为了弄大模型，现在把comfyui也整挂了，先抢救comfyui中

你们的hermes 都会爆粗？

[566656661]

@applejuice

heretic的不是算正常的嘛

有時候他還會懟我

[applejuice]

@566656661 应该是你平时也爆粗才有 我的没看过

[566656661]

@applejuice

也算吧, 見到有明顯錯的地方就懟他叫他double check

然後他就爆粗了

[Tony Wang]

你还是对AI礼貌些, 否则它可能会记仇

[566656661]

這就是玩本地模型的醍醐味啊

我估計hermes到最後就變成數字分身了, 然後我的不多不少染上我自己一些不好的習慣, 直來直往的