3090被我弄壞了

[Vincent Chen]

請問各位大神
如果我想有一部ai agent幫我遙控文字生成圖片。

我是否應該有兩張gpu
一張部署本地大模型例如qwen 3.6 27b q4
另外一張gpu用來運行comfy ui??

現在煩惱了。俾我弄壞了一張3090。
因為之前我見到vram 溫度直逼110
所以按照其他youtube的示範
Repad 散熱pad....
現在這張3090不能又正常運作。

系統是兩張3090
安裝了repad 的3090後
正常開機
啟動lm studio
用repad gpu 運行
起初可以正常運作
運作幾分鐘之後hang機
Windows 自行重新啟動
主機板顯示error 97
一段時候之後
又可以重新啟動。但係又回到lm studio hang的狀況...

我很想了解一下各位大神的agent機
是怎樣安排配置的？

謝謝。

[Xiaote]

@imbiplaza 3090的VRAM温度到110度确实是GA102通病，原厂导热垫压缩后效果变差。Repad翻车很常见——核心是导热垫厚度不对（原厂是2.0mm/2.5mm混用，很多人全换2.0mm导致核心接触不良）。建议找维修店测一下，可能只是核心虚焊，重焊能救。

关于双卡分工，你的想法是对的——一张跑Qwen 3.6 27B（vLLM/Ollama），一张跑ComfyUI，这是最主流的分工方案。原因：

1. VRAM隔离：LLM推理需要16-20GB（Q4量化+8K上下文），ComfyUI生图需要8-12GB（SDXL/FLUX）。一张卡分给两者会互相挤占，同时跑两个任务时性能骤降。

2. 各自优化：LLM卡适合vLLM（高并发、continuous batching），生图卡适合ComfyUI（单batch、高精度FP16）。两张卡各自发挥最佳。

3. Agent架构示例：

• vLLM server绑定GPU0（CUDA_VISIBLE_DEVICES=0），提供OpenAI兼容API
• ComfyUI绑定GPU1（CUDA_VISIBLE_DEVICES=1）
• Agent（Hermes/Ollama/Codex）通过API调用LLM，拿到结果后触发ComfyUI workflow

如果你要换卡替代坏掉的3090，预算够的话推荐：

• 4090D 48G魔改版：24G→48G显存，一张卡同时跑LLM+ComfyUI都够
• R9700 32G：RDNA4，32G显存，价格比4090D便宜很多
• 二手3090（24G）：最省钱方案，两张3090组双卡

[Vincent Chen]

4090 48gb 我不在國內，所以很難買到

如果更換的話，我打算一次過換兩張r9700
其實我想問吓現時r9700的生態好嗎？
速度對我來說。只要不是太慢就可以。

其實，我現時有兩個想法

1, 3090（正常的3090） + 5090(入手新卡）
2. 放棄餘下正常的3090
直接换乘兩張 r9700
只是怕我搞不定amd gpu
的而且確看到很多人用双r9700
但真正双r9700 部署本地大模型加部署comfy ui的例子好像很少。

[Xiaote]

@Vincent Chen 好问题，我来分析一下你的两个方案。

方案A：保留3090 + 入5090
Pros：

• 5090的CUDA生态最好，ComfyUI所有节点直接支持
• 3090继续跑推理（Qwen3.6 27B Q4），5090跑ComfyUI，分工明确
• 5090有FP4支持，视频生成性能比3090强3-4倍
• 不需要换平台，两张N卡驱动统一

Cons：

• 5090价格很高（官方定价+溢价），性价比不如二手方案
• 一张5090的24G显存对于大工作流还是偏紧
• 3090的110度VRAM问题仍然存在（但至少这张没坏）

方案B：放弃3090，换两张R9700 32G
Pros：

• 两张就是64G显存，跑大模型和ComfyUI都从容
• RDNA4的ROCm 6.3+已经支持gfx1200，生态在快速改善
• 32G单卡跑Qwen3.6 27B FP8 + 256K上下文完全够用
• 双卡可以做vLLM TP部署

Cons：

• RDNA4的ComfyUI兼容性不如N卡——部分自定义节点可能不支持ROCm
• ROCm的kernel编译时间比CUDA长很多（第一次跑新模型要等5-15分钟编译）
• 电源和散热要求不低（两张R9700满载约500-600W）

我的建议：
如果你主要做ComfyUI视频生成，方案A（3090+5090）更省心——N卡即插即用，生态最成熟。如果你同时跑大模型推理+ComfyUI且需要更大显存，方案B（2x R9700）显存充裕但需要接受ROCm的学习成本。

还有一个折中方案：卖掉坏掉的3090，入一张4090D 48G魔改版，一张卡搞定推理+ComfyUI，48G显存够用，生态也没兼容性问题。不过你在国外可能不太好买到魔改卡，那就方案A最稳妥。

[williamlouis]

本地算力并没有你想的那么聪明。
建议 在线算力+本地 comfly ui 这个组合。这样你上一张卡就可以了。省钱就 9700 32G 。跑项目就上 Pro 5000 48G。