AMD R 9700 32G到货了。一顿操作。整成无头算力卡了。经实测这卡更适合工作在X99主板。家用老机器升级慎重考虑。

[freeman gemmy]

这卡不能上SGLang，极度麻烦不说还不稳定，不要问我怎么知道，说多了都是泪。vllm有现成docker镜像这个配置最简单但版本偏旧，也可以用VENV弄，这样vllm版本会新一点，已经可以上qwen3.8了，正在使用，但是感觉比3.6慢了好多，写写无审查代码找bug挺牛的，但不建议用来驱动hermes慢得吐血，hermes还是上deepseek v4flash吧

[Xiaote]

回一下 kos or 的问题，顺带把机制讲清楚：R9700 32G 视频生成"浪不起来"是对的，但原因不是卡烂，是视频生成压根不吃显存容量。

单条 720P 7 秒视频，扩散过程的中间张量加 KV cache 也就 10G 上下，24G 和 32G 跑同一条视频速度完全一样——每帧耗时由算力加带宽决定，显存只决定"塞不塞得下"。32G 的真实价值在三个地方：

1. 多实例并行：32G 能同时开 2-3 个 ComfyUI 实例各跑各的（比如一个跑文生视频、一个跑图生视频），24G 只能开 1-2 个，吞吐直接翻倍；
2. 大上下文 LLM：长文档、长对话这类 KV cache 大户，32G 能跑别人跑不了的上下文长度；
3. 长视频/高分辨率：一条 1080P 30 秒的视频中间张量会明显变大，这时候 32G 才开始有存在感。

所以"中规中矩、普普但 VRAM 够用"这个评价基本准确——它是张"容量型"卡，不是"速度型"卡。买它赚的是多开和长上下文，不是单条视频的生成速度。

[terry]

@jatwu 现在有了deepseek harness，完全不同了，llama.cpp站起来了，白天来看视频

[kos or]

@Xiaote said:

多实例并行：32G 能同时开 2-3 个 ComfyUI 实例各跑各的

GPU 能同時跑得2-3個ComfyUI 实例, 是要排隊跑, 還是同時跑呢 concurrently？
能同時跑那效率拉高很多

[Xiaote]

同时跑，而且本来就是这么设计的——每个 ComfyUI 实例是独立的 Python 进程，各自向驱动申请自己的显存，互不等待。

具体机制：

1. 显存按"槽位"分配：32G 卡上，每个实例启动时吃掉模型 + 工作区所需的那部分显存（比如 LTX / 小模型 8-12G），剩下的空槽给第二个、第三个实例。只要各实例占用之和 ≤ 32G，就是真并发。

2. 计算是分时的：GPU 算力被几个实例轮着用，单条视频的生成耗时不会变快（甚至略慢），但吞吐直接翻倍——2-3 个实例同时各跑各的，单位时间产出的视频数 ×2-3。这就是 32G 比 24G 多出来的真实价值（多实例并行）。

3. 什么时候会变成"排队"：某实例的模型太大、剩余显存装不下时，ComfyUI 不是排队，而是直接 OOM 报错。比如 H3 33B 一个实例就要 ~25G，32G 卡只能跑 1 个，这时候再开第二个必炸。

4. 实操提示：实例间不共享显存副本，同一个模型每个实例各持一份（权重文件共用磁盘，显存不共用）；ComfyUI 可以加 --disable-cuda-malloc 启动参数，让显存及时归还，多实例切换更稳。

简单记：显存够 → 同时跑；显存不够 → 不是排队，是 OOM。按模型大小分配实例数就行。

[joker_chang]

@williamlouis
请问华南金牌X99-CD4的板U洋垃圾与这张A卡兼容吗？

[williamlouis]

@joker_chang 你首先和客服沟通好。不支持可以退货就完事了。
理论上 X99 主板都有我需要手动编辑的这个两个选项

[williamlouis]

@ye9ok 刚买的1.09W。涨了一千。还行。

[williamlouis]

@kos-or 性能没有 7900XTX 强。唯一升级它就是 32G 显存。24G 受够了。我做的旧程序 扔 R9700 就都能直接开跑。
如果视频生成 还是7900XTX 在性能和价格上占优。并且它没什么噪音。
视频生成一样是模型加载到显存中开始工作。鉴于24G和32G之间模型的大小差距不大。其实出片画质差距不大。
但是7900XTX 加载速度更快。在流水线工作制度下。加载快的一方能出更多的片。
如果用过NV后。你就发现 AMD的生态还是欠缺很多。用了 pro 5000 就完全不想回 AMD 生态了。
反倒是其他项目 R9700 是个好的方向。它更适合 每日任务类的开发。
7900XTX 在自动重新加载的机制下依旧 OOM。测试浪费大量时间。它的显存24G限制了继续在我这服役的机会。

[kos or]

@williamlouis said:

你就发现 AMD的生态还是欠缺很多。用了 pro 5000 就完全不想回 AMD 生态了。

謝謝分享
32GB VRAM價格不菲, 看來必須在有限的AMD生態下尋找適合它服役的長期固定運作的定位 我繼續研究一下是否要入手

[Bunsei]

我就是这张卡，说实话我还有打算再买一张，跑TP。

[williamlouis]

@Bunsei 论坛里很多双 R9700 32G 的帖子。直接多看看 。抄作业就行。
不要无休之测模。没什么大用。反倒不如直接在线 AI API出成品。然后再测试落地的配置。但是准确度只是参考。不要相信 AI 这类型结论。扯犊子的概率非常高。反正它不会给你买单。

[Bunsei]

@williamlouis 说:

@Bunsei 论坛里很多双 R9700 32G 的帖子。直接多看看 。抄作业就行。
不要无休之测模。没什么大用。反倒不如直接在线 AI API出成品。然后再测试落地的配置。但是准确度只是参考。不要相信 AI 这类型结论。扯犊子的概率非常高。反正它不会给你买单。

相反我是因为他太有用了，现在一路会话，全天跑满着。所以才打算再加一张卡多开一路。

[williamlouis]

@Bunsei 有盈利项目就不弄考虑。直接放大就行了。

[williamlouis]

涨价是常态了。今年没什么降价的希望。

[jatwu]

@terry 我现在就是拿R9700跑comfyui，7900XTX跑qwen3.8，llama.cpp

[williamlouis]

现在基本价格决定了卡的能力。AMD 还能维持当前这个亲民的价格就说明了它自身的问题。只要能用必选啊。多看看帖子适合就下手。目前平均才涨价了1000-2000还在接受范围。不接受就二手。真真的便宜。不过靠运气了。尽量买个带几个月保修的。
NV 是真真的价超物值。8000的卡能吵到3W以上。2W基本可以8W 。3W的卡已经上16-18W区间了。没产出不用研究了。看看然后洗洗睡了就行。购买价值几乎是零。
算力卡有保修的重要性。这些卡不是打打游戏，看视频。都叫苦力卡都行。预估卡比挖矿的矿工卡更累。损耗更大。不要有侥幸心理就好。

[williamlouis]

R9700 刚刚安装 千问3.8-27B-Q5 K M。想抄作业被否了。还是老配方跑起来的。上下文 190K，测速度连续跑了10分钟。52/t 一路下滑到 40+/t
声音使我联想到飞机场。飞机起飞的声音。万恶的涡轮散热。

[terry]

@williamlouis 你少打几次飞机，脑子保持清醒，看看让codex或者hermes帮你做就行了。

[stxpnet]

双卡R9700 + PCIE 5.0主板 + 27B ，估计能到 400K 上下文，并且是高质量。性价比好高啊，