RTX PRO6000 现货价格 10w，该不该卖，换 3 张 r9700
-
ComfyUI最近支持了Parallel Processing nightly應該能並行加速, 不過A卡估計也要等優化?
以前我記得ComfyUI的並行是兩種偽並行, 一種是一張卡在VAE幹活然後另外一張在Sampler幹活, 另外一種就是單純把VRAM共用, 但是其中一張卡的核心不幹活
@566656661 是的 我了解到也是这样的，如果显存叠加的话，就只有一个核心干活！
-
@566656661 是的 我了解到也是这样的，如果显存叠加的话，就只有一个核心干活！
那你的運氣很好, 上面的Pull Request前幾天進Main branch了, nightly應該能夠用到
-
显存可以叠加, 但性能不能叠加.
LLM prefill 阶段性能差不多可以叠加.
LLM decode阶段和ComfyUI 性能都无法叠加.和 pro 6000 差异还是挺大的, pro 6000 跑comfyui 估计是3张R9700 的两到3倍. llm decode 估计也是 2-3倍.
另外, 3张卡, 对主板和电源都有要求.
所以, 慎重.
-
显存可以叠加, 但性能不能叠加.
LLM prefill 阶段性能差不多可以叠加.
LLM decode阶段和ComfyUI 性能都无法叠加.和 pro 6000 差异还是挺大的, pro 6000 跑comfyui 估计是3张R9700 的两到3倍. llm decode 估计也是 2-3倍.
另外, 3张卡, 对主板和电源都有要求.
所以, 慎重.
-
显存可以叠加, 但性能不能叠加.
LLM prefill 阶段性能差不多可以叠加.
LLM decode阶段和ComfyUI 性能都无法叠加.和 pro 6000 差异还是挺大的, pro 6000 跑comfyui 估计是3张R9700 的两到3倍. llm decode 估计也是 2-3倍.
另外, 3张卡, 对主板和电源都有要求.
所以, 慎重.
Prefill是Compute intensive, 核心的相對應tflops越高越好
Decode是Memory intensive, VRAM帶寬越高越好
很遺憾的是R9700兩個都比不上, 更缺乏生態優化
-
ComfyUI最近支持了Parallel Processing nightly應該能並行加速, 不過A卡估計也要等優化?
以前我記得ComfyUI的並行是兩種偽並行, 一種是一張卡在VAE幹活然後另外一張在Sampler幹活, 另外一種就是單純把VRAM共用, 但是其中一張卡的核心不幹活
ComfyUI最近支持了Parallel Processing nightly應該能並行加速, 不過A卡估計也要等優化?
以前我記得ComfyUI的並行是兩種偽並行, 一種是一張卡在VAE幹活然後另外一張在Sampler幹活, 另外一種就是單純把VRAM共用, 但是其中一張卡的核心不幹活
我的理解是:
Diffusion 模型是一个不断降噪的过程, 它依靠时序, 所以只能串行计算.
如果每一步都并行计算的话, 就意味着大量数据要通过pcie通道搬运, 速度会严重拖慢.
这个并行计算的意思, 是三张卡跑三个模型, 同时干活. 时长变短, 但是抽卡速度变为三倍.
-
把显卡算力租出去然后赚钱买r9700
-
ComfyUI最近支持了Parallel Processing nightly應該能並行加速, 不過A卡估計也要等優化?
以前我記得ComfyUI的並行是兩種偽並行, 一種是一張卡在VAE幹活然後另外一張在Sampler幹活, 另外一種就是單純把VRAM共用, 但是其中一張卡的核心不幹活
我的理解是:
Diffusion 模型是一个不断降噪的过程, 它依靠时序, 所以只能串行计算.
如果每一步都并行计算的话, 就意味着大量数据要通过pcie通道搬运, 速度会严重拖慢.
这个并行计算的意思, 是三张卡跑三个模型, 同时干活. 时长变短, 但是抽卡速度变为三倍.
-
前一段时间买了RTX PRO6000 ，6.5W，昨天看了下价格，都涨到 10W了，有点想出掉，换 3 张 r9700 来跑，感觉也不会差很多，主要是跑qwen3.6模型和 comfyui， 现在 单卡同时跑 comfyui 和模型，同时输出的话还是不行，如果换 3 张r9700 ，2 张卡跑模型，1 张跑 comfyui，这个计划行不行？大佬给个建议
@Dalu-Fama 不缺钱就别卖了，真的想卖的话还可以再等等。这个10w多的价格我了解了一下，基本上能成交的也都是对公含税价，卖家是要能开出票的。个人的话其实涨得没那么多，你2手收的话七八万也能收到。对个人来说如果对公价格把这个单品炒高了，就去买6000D版，D版也高了就选pro5000 72G版。毕竟是自己的钱，总有替代品。
-
@Tony-Wang Pro 6000comfy队R9700可能是5倍以上的优势，5倍保底。
-
显存可以叠加, 但性能不能叠加.
LLM prefill 阶段性能差不多可以叠加.
LLM decode阶段和ComfyUI 性能都无法叠加.和 pro 6000 差异还是挺大的, pro 6000 跑comfyui 估计是3张R9700 的两到3倍. llm decode 估计也是 2-3倍.
另外, 3张卡, 对主板和电源都有要求.
所以, 慎重.
@Tony-Wang 嗯，综合考虑还是不换了，一分钱一分货肯定是有道理的！
