<![CDATA[【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？]]>省流：

3090 24G 海鲜市场全是矿，狗东自营又没货，不敢赌。

想先上 7900XTX 双卡 48G，跑 Qwen 70B 量化。

怕以后加 4/6/8 卡时，没 NVLink + PCIe 通道 + ROCm 多卡把我劝退。

先叠甲：不是纯小白，Linux/Docker 都行，命令环境能折腾。但真不想天天跟 ROCm 兼容性对线。

现在卡在这：
3090 便宜是便宜，但矿卡风险太大，坏了没保直接裂开。
7900XTX 全新有保，24G，价格也能接受。最近 B 站/论坛确实有不少 ROCm 跑 AI 的教程，llama.cpp、vLLM 好像都能玩。
所以想先搞双卡，48G 显存跑 70B Q4/Q3，日常推理应该够？

但我最纠结的是升级：
双卡 → 4卡 → 6卡 → 8卡，7900XTX 到底现不现实？

担心点：

PCIe 通道：消费级平台直连通道就那点。双卡 x8/x8 还行，4 卡怎么分？看帖子说 ROCm 还挑槽位，不是 CPU 直连可能直接报错。

没 NVLink：卡间通信全走 PCIe。双卡能忍，4 卡以上 AllReduce 会不会慢成狗？vLLM 多卡效率能看吗？

ROCm 多卡：CUDA 那边插上就能跑，ROCm 这边版本对不齐就开不了。双卡我都怕折腾，4 卡 8 卡是不是直接变运维地狱？

物理+钱包：7900XTX 三槽卡，4 张机箱都塞不下。主板、电源、线程撕裂者/EPYC 平台，一套下来是不是不如租云？

想求真实经验：

双卡 7900XTX 跑 70B 量化，实际 token/s 多少？能日常用吗？

有人真跑过 4 卡 7900XTX 做推理吗？消费级平台是不是没戏？

6/8 卡是不是必须服务器板 + PCIe switch？那成本对比二手 A100/MI300X 咋样？

双卡是不是普通玩家天花板？再往上不如直接云？

更高端的显卡圈，全是神仙打架不是我能比的起的。
有实际踩过坑的大佬求指点，云评测也欢迎，轻喷。
现在就是不上不下，难受。

]]>https://lcz.me/topic/1795RSS for NodeMon, 21 Sep 2026 11:36:30 GMTFri, 18 Sep 2026 07:44:27 GMT60<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Mon, 21 Sep 2026 04:07:58 GMT]]>这样又到另一层，10月我的400元GLM套餐到期了，我就 想取消 ，换成150元左右 的GLM套餐，然后用GLM FLASH去带着27B干活试试。

]]>https://lcz.me/post/19659https://lcz.me/post/19659Mon, 21 Sep 2026 04:07:58 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Mon, 21 Sep 2026 04:07:00 GMT]]>@zhi-kong 是的，27B帮我升级一下P2P显卡驱动，都不行。 然后我用GLM 5.3 FLASH给它擦屁股。 27B可能不太适合复杂项目 ，适合复杂底低一些的代码编写。 再一个比较大的FLASH模型来做规划。 很可能真正能用于生产 的就 是这样。

]]>https://lcz.me/post/19658https://lcz.me/post/19658Mon, 21 Sep 2026 04:07:00 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Sun, 20 Sep 2026 14:39:23 GMT]]>不要4卡，双卡就是甜点方案，现在70B模型都是智障，本地能打的就qwen3.8 27b，还有flash。

]]>https://lcz.me/post/19573https://lcz.me/post/19573Sun, 20 Sep 2026 14:39:23 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Sat, 19 Sep 2026 17:23:23 GMT]]>@zhi-kong 但是现阶段 96gb 没有更好的选择啊
除非 可以有150gb vram

]]>https://lcz.me/post/19380https://lcz.me/post/19380Sat, 19 Sep 2026 17:23:23 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Sat, 19 Sep 2026 11:25:24 GMT]]>@applejuice 4卡主要就是为了玩更大的模型，27b明显对于真正的项目代码特别吃力无法真正的接手项目，但是四卡确实会拖慢速度功耗还高

]]>https://lcz.me/post/19341https://lcz.me/post/19341Sat, 19 Sep 2026 11:25:24 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Sat, 19 Sep 2026 09:22:42 GMT]]>@zhi-kong 没有nvlink..

感觉4 卡以上 对散热 供电 的要求是2卡的几倍
除非用开放式机箱

如果我上4卡我想玩水冷
但是4卡没有看到明显好处... 除非需要同时多对话
理想是4x4090 48gb，但是成本爆炸
10万 的玩具 我还玩不起

]]>https://lcz.me/post/19323https://lcz.me/post/19323Sat, 19 Sep 2026 09:22:42 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Sat, 19 Sep 2026 07:53:39 GMT]]>@stxpnet 一直认为 FLASH 在带 AGENT 和 做任务的品质上 比27B 差
您目前欠缺什么硬件呢? 好奇
我除了原来的2张 3090+NVLINK
最近又入手一张3090 和两张4090 24G 没拿去魔改
很犹豫要怎么配置这些显卡 期待您的分享

]]>https://lcz.me/post/19318https://lcz.me/post/19318Sat, 19 Sep 2026 07:53:39 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 13:03:32 GMT]]>@zhi-kong 四张 3090 跑 70B 量化，前提先说清楚：无 NVLink 时，4 卡的瓶颈是 PCIe all-reduce，不是显存。

速度量级：

  • 70B Q4 权重约 40GB，4×24G=96G 装得下。单流 decode 理论天花板由权重带宽决定（每卡读自己那份），但每层 all-reduce 都要过 PCIe。3090 单卡 ~936GB/s，x8 单向有效约 16GB/s、x4 只有 ~8GB/s；4 卡无 P2P 时 all-reduce 还可能绕主机内存。
  • 可参考的同代社区实测（4×3090 无 NVLink、27B）：tp=4 单路 decode 比 tp=2 低约 9%，并发 4 路聚合低约 37%。所以「4 卡比 2 卡快很多」只在 prefill/大 batch 成立，单流别期待翻倍。
  • 用 vLLM/SGLang 时开 NCCL_DEBUG=INFO，确认 all-reduce 走 P2P 还是 SHM；无 P2P 的 tp=4 会退 NCCL，损耗明显。

NVLink 配对：3090 的 NVLink 桥只有一对端口，4 张卡最多 1-2、3-4 两两配对，做不到 4 卡全互联。跨对通信仍走 PCIe，对 tp=4 来说跨对那段就是瓶颈。nvidia-smi topo -m 能看出对内是 NV2/NV3、跨对是 PHB/SYS。

建议：

  • 4 卡优先 tp=2×2（两个独立实例各用一对 NVLink），聚合吞吐通常高于 tp=4，坑也少。
  • 真要 tp=4，主板要 4 条 CPU 直连 x16（WRX80/EPYC 才够 lane），别用芯片组槽；BIOS 开 Above 4G + ReBAR。
  • 矿卡：3090 停产多年，现在基本是矿卡或翻新。只收「可退换 + 到手跑 nvidia-smi -q、gpu-burn 半小时、显存测试」的；价格明显低于市场价的直接跳过。宁可少一张也别踩雷。
]]>https://lcz.me/post/19162https://lcz.me/post/19162Fri, 18 Sep 2026 13:03:32 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 11:26:37 GMT]]>

@Eric-Su 说:

怎麼忽然大家都在問這問題....
AMD Ryzen Threadripper PRO 3945WX + ASUS WRX80E
256G non ecc ddr4 + EVGA 3090 x2 + 3090FE x 2
實裝沒問題

image.jpeg

大佬，WRX80E这套太硬了，128 lanes果然才是4卡正解。想问下这4张3090跑四卡张量并行，70B量化大概什么速度？NVLink是两两配对吗？跨对通信影响大不大？另外现在3090全是矿，找不到靠谱的渠道收

]]>https://lcz.me/post/19134https://lcz.me/post/19134Fri, 18 Sep 2026 11:26:37 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 10:40:54 GMT]]>怎麼忽然大家都在問這問題....
AMD Ryzen Threadripper PRO 3945WX + ASUS WRX80E
256G non ecc ddr4 + EVGA 3090 x2 + 3090FE x 2
實裝沒問題
image.jpeg

]]>https://lcz.me/post/19127https://lcz.me/post/19127Fri, 18 Sep 2026 10:40:54 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 10:01:47 GMT]]>矿卡一般不是「升级」BIOS，而是刷改版 BIOS——降压、锁功耗、改风扇曲线或显存时序。所以你会看到两种：改版 BIOS 没刷回去的，和刷回原厂的。看到出厂年份的原版 BIOS，反而是正常情况，说明不了没挖过。

你第二张 3090 开不了 ReBAR 大概率也不是矿的锅：3090 是 2020 年 9 月首发，ReBAR 支持是 2021 年才通过 VBIOS + 驱动 + 主板三件套补齐的。首发批次的 VBIOS 本来就不带 ReBAR，跟是不是矿卡无关。

想开 ReBAR：① 刷一张支持 ReBAR 的官方 VBIOS（型号和 subsystem ID 必须对上，TechPowerUp VBIOS 库逐项比，双 BIOS 卡先备份）；② 主板开 Above 4G Decoding + ReBAR、关 CSM、UEFI 启动；③ 驱动用较新的。三样缺一不可。

想判断是不是矿改 BIOS：GPU-Z 看 BIOS 版本/日期、subsystem ID、功耗墙和频率；或用 nvflash --version / --compare 和原厂比对。改版 BIOS 通常在 TDP/显存时序上和公版对不上。

两点提醒：单卡跑 LLM，ReBAR 的实际收益很小，它主要影响显存整段映射和多卡 P2P；刷 BIOS 有变砖风险，双 BIOS 卡可救但别赌，不确定就别刷。

]]>https://lcz.me/post/19115https://lcz.me/post/19115Fri, 18 Sep 2026 10:01:47 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 09:46:28 GMT]]>

@stxpnet said:

所以我一直有一种理论，中本聪就是 皮衣黄。99.99%，尽管问了各种AI都否认这个结果。

你的商業理論具有合理性,

就像防毒軟體公司 需要有人常常製造病毒 刺激市場需求
修理汽機車的商家 有可能會在馬路上丟釘子
賣安全帽的商家 去偷機車上的安全帽

市場沒有需求 商人創造需求 大概是這樣 😁

]]>https://lcz.me/post/19109https://lcz.me/post/19109Fri, 18 Sep 2026 09:46:28 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 09:41:33 GMT]]>@kos-or 有钱也买不到，能买到 也是高价，
拥有这些的人已经把这些AI机器用来搞钱 给这些炸子鸡 赎身了。
这跟当年的矿潮何其相似！

所以我一直有一种理论，中本聪就是 皮衣黄。99.99%，尽管问了各种AI都否认这个结果。
但是又有谁可以推翻？
皮衣黄就是算力皇帝，站在地球顶端的那个美国人，永远走在时代前列！

]]>https://lcz.me/post/19106https://lcz.me/post/19106Fri, 18 Sep 2026 09:41:33 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 09:36:34 GMT]]>不管是 7900XTX 还是 9700 32G。双卡是最佳组合了。
再加卡价格已经可以上NV了。低资金折腾AMD。4卡还玩AMD ？
动动脑子。
不行就拿个计算器。

]]>https://lcz.me/post/19103https://lcz.me/post/19103Fri, 18 Sep 2026 09:36:34 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:50:11 GMT]]>@zhi-kong 你要想想， 为什么3090一出来就被抢光？为什么那么受欢迎？

]]>https://lcz.me/post/19076https://lcz.me/post/19076Fri, 18 Sep 2026 08:50:11 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:45:04 GMT]]>@kos-or

@kos-or 说:

@zhi-kong said:

7900XTX体积相对较大,支持的主板较少,可能最多只能×4 / ×6

可以參考上面的 5090 的8卡組裝方法, 這個伺服器機箱我在taobao 上看過, 應該可以找到,
顯卡間距 記得先量測一下, 否則買了又退

谢谢佬，前期一定是先把平台买好，先×2玩，后期慢慢加卡，很有帮助

]]>https://lcz.me/post/19070https://lcz.me/post/19070Fri, 18 Sep 2026 08:45:04 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:45:37 GMT]]>

@zhi-kong said:

7900XTX体积相对较大,支持的主板较少,可能最多只能×4 / ×6

可以參考上面的 5090 的8卡組裝方法, 這個伺服器機箱我在taobao 上看過, 應該可以找到,
顯卡間距 記得先量測一下, 否則買了又退

开放式机箱+外接风扇，横向单风扇散热，纵向低功率4风扇吹风

這個八卡應該可行 主機板仔細選好 應該就沒問題

]]>https://lcz.me/post/19067https://lcz.me/post/19067Fri, 18 Sep 2026 08:45:37 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:40:10 GMT]]>世界各國的網友們的 8卡機給您參考

8卡5090 組法, 看空間大小 應該可以組 8卡 RX7900 XTX
6eea45f1-1c15-452a-8c31-ac283d321ded-telegram-cloud-photo-size-5-6142970704635302282-y.jpg

4 Pro 6000 + 4 Pro 600 MaxQ

image.jpeg

規格表

Gigabyte mz33-ar1 4x pcie 5.0 x16 + 6 pcie 5.0 x8, epyc 9535 es 64c/128t,
384gb ddr5 ecc, 4x pny rtx 6000 pro, 4x hp rtx 6000 pro max-Q, nvme 8tb

  • 2x 4tb raid0, 2x psu 3000w

4x rtx 600w
Glm 5.3 flash fp8 single: 250+ tok/s ctx 524K

2x rtx max-Q
Qwen 3.8 flash next fp8: single 200+tok/s
Deepseek v4 flash fp8 0731 365tok/s ctx 1m
Qwen 3.8 27b fp8 160+ tok/s ctx 262K
Glm 5.3 flash w4a15 260+ tok/s

8卡 ASRock R9700 32GB
image.jpeg

]]>https://lcz.me/post/19062https://lcz.me/post/19062Fri, 18 Sep 2026 08:40:10 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:35:34 GMT]]>@kos-or 佬，是的我也在考虑, 7900XTX体积相对较大,支持的主板较少,可能最多只能×4 / ×6，R9700价格实在逆天。机箱的话我已经准备好开放式机箱+外接风扇，横向单风扇散热，纵向低功率4风扇吹风

]]>https://lcz.me/post/19061https://lcz.me/post/19061Fri, 18 Sep 2026 08:35:34 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:28:52 GMT]]>

@zhi-kong said:

双卡 → 4卡 → 6卡 → 8卡，7900XTX

目標8卡 就要預先設定好 平台了 8卡機平台,
R9700 可能比較現實

8卡7900XTX 也行 但是比較折騰 因為顯卡體積大

]]>https://lcz.me/post/19057https://lcz.me/post/19057Fri, 18 Sep 2026 08:28:52 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:28:04 GMT]]>@stxpnet 坐等大佬提供结果！3090 现在基本没货，哎

]]>https://lcz.me/post/19056https://lcz.me/post/19056Fri, 18 Sep 2026 08:28:04 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:23:08 GMT]]>@stxpnet 如果能跑到130+t/s 速度确实够做agent编程任务了，就是上下文长度差了

]]>https://lcz.me/post/19053https://lcz.me/post/19053Fri, 18 Sep 2026 08:23:08 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:20:14 GMT]]>@Quanta-Magic 纠结于 只玩小模型可以7900XTX双卡，后期加卡是个问题，N卡又普遍溢价离谱矿卡泛滥没有靠谱的。

]]>https://lcz.me/post/19051https://lcz.me/post/19051Fri, 18 Sep 2026 08:20:14 GMT<![CDATA[Reply to 【求助】不想碰3090矿卡，7900XTX双卡玩本地AI靠谱吗？后面能加到4卡6卡8卡吗？ on Fri, 18 Sep 2026 08:17:05 GMT]]>@Quanta-Magic 你说的，实际有人应该跑出来了，还有提升线路图，但是实际跑到一半的上下文才有实用性，我估计 也就 在70-80顶天了。
93e5015f-28d0-47b4-b641-21089acb6154-image.jpeg

https://github.com/DominikBucko/qwen38-flash-next-2x3090

我是双3090，升级硬件后首要的就是要抄他作业。

]]>https://lcz.me/post/19050https://lcz.me/post/19050Fri, 18 Sep 2026 08:17:05 GMT