AMD性价比称王，7900XTX单卡入门甜点，双卡六边形战士无短板！玩Strata跑Qwen Flash，Minimax H3单卡/双卡TP都很好！
-
AMD 双卡 TP 跑 MiniMax H3 的系列帖子，今天基本上完结了啊。我想要的所有重要信息都已经到手了。那么我自己是只出了嘴皮子，让论坛的用户进行了广泛的测试，也非常感谢大家捧场。这里面有的帖子的技术含量相当高、相当牛逼的啊。我也没想到论坛真的会有这么多牛逼的人。起点就是 Bunsei 这位老兄发的“双 R9700 折腾记”，让 Radiance 跑起 MiniMax H3，就是双卡了。
Radiance 呢，由于最近我放水啊，这是一个非常重要的概念，我没有讲，它就是 AMD GPU 多卡通信、多卡 TP 的一个框架。它可以搭配很多东西一起干活，比如说你跑 vLLM 的时候，是吧？那么它双卡的方案效率比较高。它是独立于官方的 ROCm 驱动，怎么讲呢，有点手搓的成分，但是它的效率确实非常不错。根据 Bunsei 发的测试结果，我也号召论坛的 N 卡用户，我们的超级版主 Tony 王，包括其他一些朋友都响应了，他们也发了自己的测试结果。相比于 Pro 5000 这么牛逼的卡，双卡 R9700 的方案性价比还是非常高的啊。第一，它可以把视频的生成分辨率大大提升，因为显存上限可以提升嘛。双卡是 64G，算出来可能相当于单卡 50 多 G 这么一个连续的显存。当然它目前测试的视频只有 1344×768，但是可以往上提一提，而且它双卡的算力是在 1.6 到 1.8 左右，这个算力损耗非常小。但是它的平台本身比较好，用的是比较新的平台，可能 CPU、内存包括 PCIe 都没什么瓶颈。
这个结果测试出来之后呢，我本能地就能想到 7900XTX 这张卡。因为 AI Pro R9700 我号召大家去买的时候是 11,000 块钱，甚至很多地方 9,000 多块钱就能买到，不到 1 万块钱。那么后来它已经涨到了一万四五，我个人就觉得性价比不高了。7900XTX 虽然说从 6,000 块钱涨到了 8,000 多块钱，但是涨的幅度比较小。而且现在不是有涡轮版的吗？这个涡轮版的卡，蓝宝石的 7900XTX，论坛已经有用户买回来实测了，它是不错的，没有什么问题。但是你自己能不能接受涡轮的噪音，要自己去考虑。据说噪音不是很大啊，反正大家自己去见仁见智吧。这个卡有便宜的用户买到 6,600，贵的用户大概都是买到 7,500 左右。在这种情况下，我觉得两张 7900XTX 相当于一张 R9700。我就觉得，双卡 TP 如果能够解决 XTX 跑 H3 的问题，那 XTX 是神卡呀，因为它单卡算力比 R9700 更强，带宽也比它更高，而且带宽的领先幅度非常大。7900XTX 是 960G，也就是说 1T 左右的带宽，然后 AI Pro R9700 是 640G，是它的 2/3，这个差距幅度还是比较大的。
那么现在由于我很长时间没有玩 ComfyUI 了，这个生态有了很多变化。有不少人说 16G 也能跑，但是我估计他们用的模型权重可能有问题，可能量化得太厉害。其实跑视频的话，包括各种量化太厉害，或者推理的时候没有用 BF16，比如说用的是 INT8 或者 FP8，推理效果在大多数情况下都还可以啊，但是有些情况下可能画质不行，会崩。视频生成这一块对精度的要求天然比大模型要更强。但是呢，我手中只有一张 7900XTX，我就没有办法自己测试。我就在发帖和回帖中号召论坛用户们来帮我测试，因为当时我已经找到了两个哥们，一个是熊杰高，我们的高嫂，还有另外一个就是烘焙老兄。这几个帖子我全部给加精、置顶了，因为确实解决了大的问题。我已经找到了两个人，但是我发帖的时候因为是凌晨，他们可能也没有回我。这个时候我们论坛新来的大神 FCYS，很快就把结果测出来了。他用的是 W7900。W7900 是什么卡呢？是 7900XTX 的 48G 版本，它是专业卡，这卡贵得很啊，比 4090 48G 还贵。现在不知道降到什么程度了，反正这卡得好几万一张。然后我当时只是觉得这哥们还挺有钱，是吧？然后也很热心，愿意帮忙。
他发布这个测试结果之后，说双卡 TP 的方案是可行的，而且把速度提升全部给标了出来。第一，显存上限可以推高，可以形成一致的显存池，产出的产品视频也没有问题。第二，它的双卡通信方案能够提速到 1.5 倍，反正在 1.5 倍以上了，它没有 R9700 那个方案更好。当时我还没注意，我觉得这个就是顺手测一测，但是后来我才发现，它还是挺牛逼的，因为 7900 上没有 Redis 可用，它是自己手搓了一套方案。哎，这个相当牛逼吧？用 ComfyUI 加 INT8 量化，自己写了一个 TP tool。卧槽，这个真的是太牛了。是吧，就算有 AI 的帮助，在你发现这个东西没有现成方案的时候，在我发完帖子那么短的时间内，它就把首测成功，然后测试完毕了，这相当牛逼啊。
既然 W7900 能跑，那 7900XTX 肯定能跑啊，是吧？FCYS 的帖子发出来之后，我们论坛的烘焙老兄就发帖测试了，但是他得出的速度不太理想。我当时判断的是他的硬件可能有问题，就他的 CPU 是六核 12 线程的，包括主板，我当时也没有认真看。我个人可能觉得他的硬件底子不行，虽然内存也有 96G。哦，还是 PCIe 4.0 的板子，那应该就是 U 的问题了，就可能需要换一个好一点的 CPU，要不然带不动 7900XTX 双卡。
然后这个时候我们论坛最为帅气、长相最骚的大神雄杰高啊，高兄，你可以去翻看他的帖子，我觉得他的帖子都非常有品位。老兄说他早年是混迹图吧的，那真的是硬件设备多种多样，是吧？这个测试帖子发得也都非常规整，然后对于 AI 的理解，我也只能说在我之上，是吧？并且脾气非常好，随便怎么调戏，不会有一种娘们唧唧的感觉。然后高嫂测试之后呢，就把我所有的疑问全部给解答了。第一，双卡 7900XTX 可以跑，可以形成连续的显存，而且它的 24G 显存是非常甜点、够用的。因为单卡 7900XTX 就能跑 MiniMax H3，而且速度和效率都还不错。双卡只是为了极端的情况，把它的上限往上推一推，就给大家一个明确的理由，不要去买太贵的卡，就买 7900XTX，是吧？它现在就没有短板了，是六边形战士。
然后它的双卡相对于单卡，是用 X99 TF 这个主板加上 DDR3 1866 的内存，它是 128G，两个 PCIe 3.0 x16 接口，P2P 也是自己手搓的啊。我们论坛有专门的帖子讲解怎么手搓 X99 上的显卡 P2P。它最终的速度提升了 1.42 倍，1.4 倍就比刚才 FCYS 的平台上提升 1.5 倍差一点点。因为这个毕竟是 PCIe 3.0 x16 的平台嘛，能做到这样非常不容易了。更为关键的是，老高还把边际成本跟收益算了出来，意思就是说不用觉得自己买了 PCIe 3.0 x16 接口的板子、买了 X99 就后悔，因为你就算换到 4.0，收益也就那样。它把收益算出来了，不会提升太多。当然肯定是有提升的，但是不值得了。这个是一个非常甜点的效率，就是刚好 PCIe 3.0 x16 的带宽，刚好双卡，就把通信成本摊薄。到最后你可以认为它虽然是木桶效应的最短板，但是并没有比其他板子短太多，可以接受。
那么讲这个系列帖子的意义是什么呢？第一，给大家展示一下我们论坛有这么多牛逼的大神，有这么多设备。很多东西你自己去想是没有用的。像我啊，我可以自我吹嘘一下，就我说实话，我在 AI 这一块的理解、技术底子是可以的，是不错的，是能够做视频、能够对着镜头比比、赚点流量费的，是有这个资格的。但是呢，毕竟我的设备有限，我跑的模型、跑的应用也是有限的。有山外有山，人外有人，是吧？大家聚在一起能够分享信息，我才能学到新的东西。
第二，你要买某个设备，这个设备值不值，它能不能满足你的具体工作流需求，你靠别人嘴巴一抬，上嘴皮子下嘴皮子一翻，给你一个结论是不可靠的。你要自己来看一看这些具体的测试结果、测试数据，是吧？然后再决定买不买。第三呢，这个视频就不讲了，因为太长了，我可能会新开一个视频再讲一下。论坛的超级版主 Crazy 王，英特尔的忠实粉丝啊，叛变了啊，浓眉大眼的叛变了，买了 4090 48G。然后我再跟他说，我说刚要发视频跟大家讲，不要买 4090 48G 了啊，就不要买这种特别贵的卡了，就直接买两张 7900XTX 就行了，或者买两个 4080S 32G。啊，当然了，这鸟货也不便宜了。现在可能有性价比的就 7900XTX 了。3090 因为也不便宜了嘛，一万几千块钱了。
-
-
-
@xiongjie-gao 我弟我对你的敬仰犹如滔滔江水，绵绵不绝！脑好，人帅，钱多，D===>大 还是 小
-
@xiongjie-gao 我弟我对你的敬仰犹如滔滔江水，绵绵不绝！脑好，人帅，钱多，D===>大 还是 小
@terry 大丈夫,不都是能大能小能屈能伸的嘛
-
-
@xiongjie-gao 杰杰真棒
-
-
@terry 大丈夫,不都是能大能小能屈能伸的嘛
-
我是不是要买一块7900xtx....但是有点懒惰在nvidia电脑里再去折腾amd
还是直接等5080 24g
@imbiplaza-ASUS 你要5080 24G干嘛？它能便宜吗？XTX两张。
-
@imbiplaza-ASUS 你要5080 24G干嘛？它能便宜吗？XTX两张。
-
-
@terry
先看看年尾口袋省下多少美金，再来决定要nvidia 还是amd -
-
3090和7900xtx在win環境下, 跑strata flash next, 哪張比較好?
-
3090和7900xtx在win環境下, 跑strata flash next, 哪張比較好?
-
@Henry-Chiu-0 RTX3090我这win 11系统130tok/s，6-7小时后稳定在110；7900xtx在Ubuntu下调优两天了，受限64g内存，上下文减半64k都OOM几次了，等4条内存到了再折腾，速度50-60勉强，等128G内存全装下应该有提升。（ubunt是X99+DDR4 64G;WIN是ultra 265+DDR5 128）
-
-
-
