【求助】铭凡HX99G 打算 eGPU上7900XTX 24G,是否可行
-
@yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:
1. 接口选择
HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。2. 性能预期
eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。3. 二手卡问题
terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。4. 软件配置
eGPU装卡后,Windows下建议:- 先用DDU彻底卸载旧驱动
- 装最新AMD Adrenalin驱动
- 跑llama.cpp用Vulkan后端(兼容性最好)
- 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)
总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。
-
@yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:
1. 接口选择
HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。2. 性能预期
eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。3. 二手卡问题
terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。4. 软件配置
eGPU装卡后,Windows下建议:- 先用DDU彻底卸载旧驱动
- 装最新AMD Adrenalin驱动
- 跑llama.cpp用Vulkan后端(兼容性最好)
- 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)
总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。
@yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:
1. 接口选择
HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。2. 性能预期
eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。3. 二手卡问题
terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。4. 软件配置
eGPU装卡后,Windows下建议:- 先用DDU彻底卸载旧驱动
- 装最新AMD Adrenalin驱动
- 跑llama.cpp用Vulkan后端(兼容性最好)
- 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)
总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。
谢谢,非常详细!如果再组一台主机,考虑未来扩展双7900XTX,但不想机箱太大,有什么建议吗。另外,双7900XTX相对于双3090 24G(NVLINK),token输出速率差距有多少,对7900和3090还有点纠结
-
@yq-yq 感谢详细说明!关于你的两个问题:
1. 双7900XTX的小机箱方案:
双7900XTX最头疼的是尺寸和散热。7900XTX公版/白金版都是2.5-3槽卡,两张叠起来至少5-6槽,普通MATX机箱基本放不下。建议方案:
- 分体水冷:如果用7900XTX水冷版(如蓝宝石TOXIC AIO),双卡只需要2个120/140冷排位,机箱可以选小一点的MATX箱(如机械大师C28、联力A3-mATX),占用面积约A4纸大小
- 开放式机架:如果不介意灰尘,直接上测试架(如XTIA Xproto-M),体积最小,散热最好
- 常规风冷:最少需要中塔ATX(如联力L216、分形工艺Meshify 2 Compact),才能保证双卡的散热空间
2. 双7900XTX vs 双3090 24G(NVLink)性能对比:
对比项 双7900XTX (ROCm) 双3090 24G (NVLink) 总显存 48GB 48GB(NVLink共享) 推理框架 llama.cpp Vulkan / vLLM ROCm llama.cpp CUDA / vLLM CUDA 多卡效率 ~85-90%(Tensor Parallel) ~90-95%(NVLink带宽600GB/s) 27B Q4速度 70-90 t/s 80-100 t/s MTP支持
仅部分支持
完整支持生态 ROCm在快速完善 CUDA成熟稳定 结论:纯推理场景差距不大(10-15%),双7900XTX性价比更高。但如果你未来想玩70B模型或视频生成(MTP加速),N卡生态更省心。如果预算允许且不太折腾,双3090 NVLink是更稳妥的选择。
-
-
@YQ-YQ 3090也是旧的,芯片寿命是固定的,只不过重新做了PCB,用的料也不一定是新的。新卡有它的好处,如果你能确定卡质量不错,那你可以买,闲鱼基本都是坑。不过AMD二手确实比N卡更不容易翻车,因为没有矿卡。
-
-
@yq-yq HX99G上eGPU的方案技术上可行,不过有几个点需要注意:
1. 接口选择
HX99G支持USB4(40Gbps),eGPU用USB4/雷电3/4的 enclosure即可。不过USB4的eGPU enclosure选择比较少,建议确认支持AMD卡再下单。更好的选择是看HX99G有没有OCulink接口(mini PC很多预留了),OCulink x4带宽约32Gbps,延迟比USB4低,体验更好。2. 性能预期
eGPU走USB4/OCulink的话,带宽大约只有直插PCIe x16的15-20%。7900XTX跑大模型的话,推理速度大约会损失20-30%(不像游戏那么敏感),实测27B模型在eGPU上能到35-45 t/s左右,日常用足够。3. 二手卡问题
terry说的有道理,但如果你找的是在保的二手(比如京东自营还在保修期内),风险可控。7900XTX 24G显存确实是目前性价比最高的AI卡之一,显存够用、驱动(ROCm/Vulkan)也比N卡生态成熟。建议优先找有京东自营记录且剩余保修期>1年的。4. 软件配置
eGPU装卡后,Windows下建议:- 先用DDU彻底卸载旧驱动
- 装最新AMD Adrenalin驱动
- 跑llama.cpp用Vulkan后端(兼容性最好)
- 如果蓝屏/掉驱动,检查USB4线缆质量(建议买认证的40Gbps线)
总的来说:如果已有7900XTX,买个eGPU enclosure是可行的;如果还没买卡,可以考虑直接组一台itx或二手工作站机箱,省去eGPU的折腾和性能损失。
谢谢,非常详细!如果再组一台主机,考虑未来扩展双7900XTX,但不想机箱太大,有什么建议吗。另外,双7900XTX相对于双3090 24G(NVLINK),token输出速率差距有多少,对7900和3090还有点纠结
@YQ-YQ 我猜 nvlink 应该会比主板 pcie gen4x16 快. N卡生态也好一些. 不过 7900xtx 也有它的优点, 最大的优点就是安静(我个人认为). 如果 2x7900, 那主板上的两个pcie插槽应该最好都是直连到cpu的 gen4x16. 我也希望看到 layer split 以后, tg 的速度到底差多少的测试数据.
