AI关公战秦琼：双7900XTX VS 5090，Strata跑Qwen Flash & Minimax H3视频生成对比，前者竟有四分之三的效率？
-
@懒人烘培 这个文章对7900XTX真的是疯狂安利
一万五能买5090的75％性能还要啥自行车。
以后进店显卡来一对的，基本上可以判断是看了老特视频过来的 -
@懒人烘培 这个文章对7900XTX真的是疯狂安利
一万五能买5090的75％性能还要啥自行车。
以后进店显卡来一对的，基本上可以判断是看了老特视频过来的 -
@懒人烘培 这个文章对7900XTX真的是疯狂安利
一万五能买5090的75％性能还要啥自行车。
以后进店显卡来一对的，基本上可以判断是看了老特视频过来的@xiongjie-gao
不能买两张，第二张没有补贴，
-
@懒人烘培 这个文章对7900XTX真的是疯狂安利
一万五能买5090的75％性能还要啥自行车。
以后进店显卡来一对的，基本上可以判断是看了老特视频过来的这个文章对7900XTX真的是疯狂安利
7900 XTX 24G 可能是AMD最後一張大顯存遊戲卡了?
未來的遊戲卡大概會進入小顯存世代
對Nvidia, AMD來說 遊戲卡的顯存小於16G VRAM最符合商業利益遊戲卡的顯存縮水中
5090 32G 縮水=> 5080 24G
7900 XTX 24G 縮水=> 9070 XT 16G -
这个文章对7900XTX真的是疯狂安利
7900 XTX 24G 可能是AMD最後一張大顯存遊戲卡了?
未來的遊戲卡大概會進入小顯存世代
對Nvidia, AMD來說 遊戲卡的顯存小於16G VRAM最符合商業利益遊戲卡的顯存縮水中
5090 32G 縮水=> 5080 24G
7900 XTX 24G 縮水=> 9070 XT 16G -
这个文章对7900XTX真的是疯狂安利
7900 XTX 24G 可能是AMD最後一張大顯存遊戲卡了?
未來的遊戲卡大概會進入小顯存世代
對Nvidia, AMD來說 遊戲卡的顯存小於16G VRAM最符合商業利益遊戲卡的顯存縮水中
5090 32G 縮水=> 5080 24G
7900 XTX 24G 縮水=> 9070 XT 16G@kos-or 人类文明的进展的的最有效方式，是像文艺复兴一样的思想解放，一并解放生产力。而不是挤牙膏
-
本期视频呢，我们给我们论坛的烘焙老兄做一个专题啊，就是他关于7900XTX双卡与这个5090单卡对比的这两个帖子。其实是个系列帖子了，有论坛很多其他的网友，他是在网友们的基础上面啊做了总结，然后他是把这个双卡玩的比较溜了。这个RTX 5090的测试结果是我们论坛其他网友的测试结果啊，有这个公开的记录，帖子呢大家到论坛上来找就行了。
本来呢是想给我们钱多人帅屌大的这个雄杰高，是吧？我们也应该给他做个专题，他最近的贡献也很大。但是由于老弟在这个论坛秀恩爱，是吧，展示自己漂亮的另一半，让我非常的羡慕嫉妒恨。我们的原则就是兄弟们有什么痛苦啊，分享出来让大家开心一下；兄弟们有什么幸福啊，不要秀，是吧，我们受不了。既怕兄弟苦，又怕兄弟开路虎。
那么我们言归正传啊，讲一下5090这张卡它为什么那么牛逼，就为什么那么多企业去买。说实话，它32G的显存是它最大的硬伤，它的算力跟带宽都是相当之夸张。就到今天，在这个什么消费级、在小企业能买到的卡中，它依然是首屈一指的。就它的素质，基本上跟RTX Pro 5500、RTX Pro 6000，那就是同一个类型，是吧？它是要吊打5000的。
然后这张卡它之所以顶着32G显存这个严重的残疾，还能卖那么高的价格，就是因为我们普通人买到手中之后，我们受限于这个显存，是吧？它可能说在模型的尺寸大了之后，无论是文本大模型还是这个ComfyUI，只要视频的权重文件大了，它32G的显存都不够用。是吧，那我们双卡如果用来搞TP的话，我们要凑齐两个PCIe 5.0 x16的完整带宽的这个板子，啊，那板子的价格也老贵了，所以普通人就用不起。这张卡本身又比较贵，是吧？所以我们个人讲实话，我是不太建议大家为了跑AI去买5090的。
就这张卡企业买的多，原因就是因为企业能够用这个高规格的主板，它们就是给你插满了，全部是PCIe 5.0 x16的高带宽。虽然没有NVLink，但是企业买它并不是为了训练大模型，训练的话肯定是用高带宽的，或者说这种支持高阶互联的这些专业的卡，比如说H100、H200，这个B200、B300，或者Rubin架构的这个混合的新的架构，是吧，新的机柜。但是用来推理的话，企业一般都是自研推理架构，它不会说像我们用开源的SGLang啊、vLLM啊，是吧？它们肯定都是底层自己重新写了，能够突破这个物理限制，最大程度地把这个通信的损耗给降低下来。
所以这个卡卖到企业手中，用来做这个推理的话，它本身没有什么缺点。啊，到手就给它换成液冷的，然后一个主板给你插8个卡，它的效率实际上是非常高的。所以说企业愿意花高价去买。那么我为什么说我们个人不要去买这种卡呢？因为第一，5090它烧接口，这个几乎是无解的。你要想它不烧，你必须把它的功耗给控制在非常……怎么说呢，也不能说非常低了，就是比较低，它的这个性能损耗是比较大的。就算是你控制功耗，它也不能给你保证100%不烧。
就说关于烧接口这个事情，这个它的这个什么16pin的接口，被证明是设计有缺陷的。就说你再怎么规避，你基本上就说很难彻底杜绝这个事情。换线呀，还是换这个什么接口材质啊，这些东西几乎全部给折腾完了，反正这个供电这一块一直就是有问题。
那么我们烘焙老兄他展示的两个帖子啊，就是第一是跑MiniMax H3的对比，第二是跑这个大模型的对比，就跑这个Strata的对比。当然了，我们必须说这个系统环境是略有差异的，比如说他的这个双卡7900XTX是跑在Ubuntu上，然后这个什么5090的测试帖子是跑在Windows上。就如果是AMD的话，Windows跟Linux的性能差异是比较大的；如果是英伟达的话，它的性能差别大概在3%到5%左右，就基本上是在这个统计误差之内。那么我们也只能说参考一下。
啊，我们先看看这个什么，既然这个在大模型这个页面，我们就停在大模型的页面嘛。就说在短的prefill中，两个7900XTX，短上下文啊，那你肯定是被5090给吊打，是吧？因为5090的素质太高了，它是1,700多兆的这个带宽，就1.7G左右的带宽，将近1.8G吧，然后算力它也肯定是比那两张这个7900XTX要更高的。
但是我们也知道，我们本地部署的话，主要是跑这个agent的长上下文。啊，我们就是按照烘焙老兄的这个说法，取这个中间值的话，就相当于两张7900XTX，它双卡TP跑这个Strata，是吧，跑同一个模型，就是千问IQ3量化的千问Flash了。那么它的性能大概是相当于单张5090的3/4，这个只是一个预估啊，一个大致的体感上的这个估值。
这里在不同的上下文的时候，啊是这个多少比值，都交代得很清楚。短上下文的时候，5090你看优势非常的大，是吧？然后当这个上下文来到128K，128K就是AI agent的甜点上下文尺度啊。然后256K这个讲实话，千问家族，我感觉它的这个三点几系列啊，3.8系列，它跑不到256K。啊，因为到后期它的这个召回准确率就不行了。所以在128K的时候，两张7900XTX相当于这个单张5090的84%的prefill性能。那你说decode的数据，这个差距其实也不大啊。呃，这里就不细讲了，大家自己来看吧，自己来看这个测试数据。
而且怎么讲呢，我们做这个AI agent或者说做这个coding agent，它长上下文之后啊，它计算的方式都是这个prefill，都是增量计算的。就最后decode的速度对于体验的影响并没有那么大，其实包括prefill也都是了啊。这个只是说展示最影响体验的就是prefill，啊，展示两张7900XTX对单卡5090的这个对比。
那么我们知道单卡5090现在怎么也得六七万，是吧？贵的可能要卖到8万块钱一张。那么我们也知道这个5090 32G，是吧，它原版怎么也得卖个五六万一张，贵的可能要卖到七八万。就关键是这玩意你不好买，就在美国现在你买这个东西，很多地方要你提供这个证明，还要写这个承诺书，保证这个卡不会流到国外去，就管控非常的严。
那你如果能以1/4甚至1/5的价格去提供3/4的这个性能，我认为7900XTX双卡啊，真的是当下几乎是完美的方案啊，就是无敌的完美的方案。
然后关于这个跑MiniMax H3，这个7900XTX它双卡并不能等效48G啊，它有一些通信方面的损耗。我们大概估计它等于一个40G出头吧，这么一个水平，但是它依然是要比32G的5090要更加从容的啊。因为一旦你从这个显存落到这个内存缓存，你这个处理速度就大大降低了啊。然后在这个大家都使用这个显存工作的时候，实际上单卡的5090是很有优势的啊，在这个场景中它是非常有优势的。
但是最后测出来的结果也是两张7900XTX它的这个TP之后的效率，大概是等于这个5090单卡的3/4左右。这些环境的细微差距，大家自己到具体的帖子中来看啊。我认为是不足以造成明显的这个影响的啊，大家自己来判断。
啊，讲这个的主要是说，现在不是要双十一来临吗？就大家如果说要购置一个2万块钱的配置的本地AI主机，你现在双3090你是肯定是不够了啊，3090一张卡要一万多块钱，一万几千块钱。那么你想把成本控制在2万块钱以内的话，那么两张7900XTX 1万五千块钱你怎么都能拿下来，甚至你好好的去搞一搞，你大概一万四以内也能拿下，啊，1万3左右，是吧，你都有可能。
那么你再搭配一个X99的洋垃圾主板、128G的DDR3内存，虽然它的接口是PCIe 3.0 x16的，但是我们论坛已经有详细的数据已经证实过了啊，PCIe不是问题，内存通道、内存带宽也不是问题，就它们不是这个拖后腿的选项。啊，在这种情况下，这个就是你本地入门的几乎是完美的方案了。是吧，2万块钱讲实话，你一张RTX Pro 4500你都买不起，你都不够，是吧？现在给你组一张能够跟5090标一标的这么一个配置，你还要什么自行车呢？
当然了，这一切的测试啊，都是基于我们本地、我们的一些个人开发的一些需求，是吧？比如说我们跑大模型，我们就是Strata加这个什么千问Flash Next；跑这个什么AI视频，我们一般就是跑LTX 2.5，或者跑这个什么MiniMax H3，其实基本上都是在跑MiniMax H3了。H3现在在这个ComfyUI视频这个生态这一块，它应该是奠定了霸主的地位啊，这个是毋庸置疑的，就它性价比太高了。
我们不说在这个极值上面、在这个极致的效果上，呃，通义万相包括LTX 2.5可能说各有优劣，是吧？但是你如果说搞生产、搞生态，你从这个创作的性价比来讲的话，嗯，H3可以说是吊打其他所有的模型啊，你开源的都没有H3能打。它的生态也繁荣，工作流也多，让AI抄作业也方便。
我们论坛呢，可能后期会在AI音视频画图这一块再多更新一点，啊，让它可能说要开设专区，让大家来展示自己的音频，展示自己的视频创作成果，是吧？视频你们就把它传到油管上，这边论坛可以做这个解析，是吧，做成一个瀑布流。或者说音频的话，你就直接把它上传到论坛上来，给它配图，是吧，我们大家也来品一品，到时候交换一些信息。那么大家有什么疑问、有什么想要交流讨论的，欢迎到论坛来发帖啊。
-
这个文章对7900XTX真的是疯狂安利
7900 XTX 24G 可能是AMD最後一張大顯存遊戲卡了?
未來的遊戲卡大概會進入小顯存世代
對Nvidia, AMD來說 遊戲卡的顯存小於16G VRAM最符合商業利益遊戲卡的顯存縮水中
5090 32G 縮水=> 5080 24G
7900 XTX 24G 縮水=> 9070 XT 16G -
@kos-or 等2028年进入存储芯片低谷期， 就会出现很多大显存了吧。 毕竟多少年以前， 很多人说 10MB 硬盘已经是全球最大， 不会更大了。
-
@kos-or 人类文明的进展的的最有效方式，是像文艺复兴一样的思想解放，一并解放生产力。而不是挤牙膏
