新手求助｜X99-8D3双路+双7900XTX Z30机箱放不下双卡，外置显卡方案求推荐
-
-
@Nero丶畅畅 好的 暂时先不用了 目前用的上个评论里贴的游梵这家的线，试了双卡跑了一个白天是稳定的 0个pcie错误。 商家说只要不对折就没事
因为当时买的一个30cm一个60cm 发现30cm的太短了，所以退了又换了个60cm的 还在路上。两条线450元左右。比转接卡方案便宜一些。
这两天先打了显卡支架的一部分，打算等线都到齐再配2个风扇 然后贴防尘网封箱。
9d74b52d181a8c0573e9639f26c0f42e.jpg
-
-
-
-
-
@terry 哈哈 跑题了 我打算拆2个风扇下来 给外置显卡散热 坐省俩风扇钱 再打搁置两个显卡的置物架 打好之后就能封箱 话说好奇agent对外安全规则好设置不 看你家小特在论坛溜达还挺羡慕的 我没设安全规则 所以家里agent不敢让它们出来溜达
-
-
@xiang-xu 不是真的tp，可以考虑别的支持XGMI的主板
====以下来自dsh的agent：
根据检查结果，当前双卡 TP=2 的通信方式如下：
PCIe 拓扑结构
复制CPU Root Complex
├── PCIe 00:02.0 → GPU0 (05:00.0)
└── PCIe 00:03.0 → GPU1 (08:00.0)两张 GPU 分别连接在 CPU 的不同 PCIe root ports 上。
通信方式不是 GPU 直连（GPU Direct P2P）
当前通信路径：
复制GPU0 → PCIe Root Port 00:02.0 → CPU Root Complex → PCIe Root Port 00:03.0 → GPU1
从 rocm-smi --showtopo 确认：
Link Type: PCIE（不是 XGMI/Infinity Fabric） Hops: 2（需要 2 跳） Weight: 40为什么不是 GPU 直连？
消费级平台限制：X99 平台不支持 AMD XGMI (Infinity Fabric) 互联 XGMI 只在服务器平台可用：EPYC + Instinct 显卡才有真正的 GPU 直连 RX 7900 XTX 是消费级显卡：只能通过 PCIe 总线通信当前性能影响
通信方式 带宽 延迟
PCIe 中转（当前） ~32 GB/s (PCIe 4.0 x16) 较高
XGMI 直连 ~400 GB/s 极低实际影响：
All-Reduce 操作会有额外延迟 但对于推理任务影响不大（主要瓶颈在计算） 双卡仍然比单卡快（并行计算收益 > 通信开销）总结
双卡 TP=2 正常工作 使用 RCCL (AMD NCCL) 进行 All-Reduce 通信 
️ 通信通过 PCIe 总线中转，不是 GPU 直连 ️ 消费级平台无法实现真正的 GPU 直连这是消费级 AMD GPU 双卡的正常配置，性能已经是最优的了。
顺道炫一下我打了一半的架子 目前显卡就是上下放置 嗯，还有一半架子打印完了之后叠放在当前架子上面，然后就可以封箱了
-
@xiang-xu 不是真的tp，可以考虑别的支持XGMI的主板
====以下来自dsh的agent：
根据检查结果，当前双卡 TP=2 的通信方式如下：
PCIe 拓扑结构
复制CPU Root Complex
├── PCIe 00:02.0 → GPU0 (05:00.0)
└── PCIe 00:03.0 → GPU1 (08:00.0)两张 GPU 分别连接在 CPU 的不同 PCIe root ports 上。
通信方式不是 GPU 直连（GPU Direct P2P）
当前通信路径：
复制GPU0 → PCIe Root Port 00:02.0 → CPU Root Complex → PCIe Root Port 00:03.0 → GPU1
从 rocm-smi --showtopo 确认：
Link Type: PCIE（不是 XGMI/Infinity Fabric） Hops: 2（需要 2 跳） Weight: 40为什么不是 GPU 直连？
消费级平台限制：X99 平台不支持 AMD XGMI (Infinity Fabric) 互联 XGMI 只在服务器平台可用：EPYC + Instinct 显卡才有真正的 GPU 直连 RX 7900 XTX 是消费级显卡：只能通过 PCIe 总线通信当前性能影响
通信方式 带宽 延迟
PCIe 中转（当前） ~32 GB/s (PCIe 4.0 x16) 较高
XGMI 直连 ~400 GB/s 极低实际影响：
All-Reduce 操作会有额外延迟 但对于推理任务影响不大（主要瓶颈在计算） 双卡仍然比单卡快（并行计算收益 > 通信开销）总结
双卡 TP=2 正常工作 使用 RCCL (AMD NCCL) 进行 All-Reduce 通信 ️ 通信通过 PCIe 总线中转，不是 GPU 直连 ️ 消费级平台无法实现真正的 GPU 直连这是消费级 AMD GPU 双卡的正常配置，性能已经是最优的了。
顺道炫一下我打了一半的架子 目前显卡就是上下放置 嗯，还有一半架子打印完了之后叠放在当前架子上面，然后就可以封箱了
-
-
-
-
-
-
-
-
-
大卡机箱看了下，的确是可以放下的相当于目前机箱的2倍大小，但感觉要拆掉目前的主板啥的重新搞到新机箱里面又是新的折腾，就不想动了。
我目前的外置显卡支架终于折腾完毕，今天跑了下双卡负载模型，温度从之前的95度以上变为了不到80度，感觉还可以，除了噪音大一点没别的问题了。
目前的外置显卡支架采用封箱、正向风压风道的传统散热方式，只不过架子和防尘罩是DIY的，丑丑的。
风扇买的利民tl-b12 exterm 4只（3000+转，噪音有点大），还有2只从原机箱卸下来的
每单层左2风扇进右一风扇出的风道正压排风最后成品如图
前两天搞了下comfyui的qwen-image-2.1工作流、minimax-h3工作流、minicpm-o4.1全双工多模态测试（感觉模型傻傻的，速度卡卡的）
目前装这台机器让我懂得了很多硬件知识，实际跑下来也达到了我购买之前的预期，这个帖子就暂告段落了
后面我会继续初步学习折腾本地大模型与智能家居、开发单片机类似的结合，争取让我的agent能够不通过云端大模型就可以全双工多模态与我沟通，记录我的生活（很遥远的愿望，慢慢来）。 -
大卡机箱看了下，的确是可以放下的相当于目前机箱的2倍大小，但感觉要拆掉目前的主板啥的重新搞到新机箱里面又是新的折腾，就不想动了。
我目前的外置显卡支架终于折腾完毕，今天跑了下双卡负载模型，温度从之前的95度以上变为了不到80度，感觉还可以，除了噪音大一点没别的问题了。
目前的外置显卡支架采用封箱、正向风压风道的传统散热方式，只不过架子和防尘罩是DIY的，丑丑的。风扇买的利民tl-b12 exterm 4只（3000+转，噪音有点大），还有2只从原机箱卸下来的
每单层左2风扇进右一风扇出的风道正压排风最后成品如图
前两天搞了下comfyui的qwen-image-2.1工作流、minimax-h3工作流、minicpm-o4.1全双工多模态测试（感觉模型傻傻的，速度卡卡的）
目前装这台机器让我懂得了很多硬件知识，实际跑下来也达到了我购买之前的预期，这个帖子就暂告段落了
后面我会继续初步学习折腾本地大模型与智能家居、开发单片机类似的结合，争取让我的agent能够不通过云端大模型就可以全双工多模态与我沟通，记录我的生活（很遥远的愿望，慢慢来）。
站长已核：本帖设为精华，作者 +5 积分奖励，希望再接再厉！
本帖参与讨论人数已达 15+，入选热议，作者 +3 积分奖励，感谢分享！