雙R9700玩qfn的朋友又有得玩了
-
今天花了一整天叫AI把它整個跑通了。真的非常快，第一次看到200tokens這種數字，decode時字出來的速度看著就爽。但同樣的剛出來的關係吧，問題很多，我覺得無法實用，就撤掉換回strata了。- context 太小96K (不好調整)
- 並發預設8，而且是硬限制，其它數字調下去立刻crash，所以無法從這掙vRam
- vision預設沒掛，掛上去的話無法跑(忘了什麼原因，印象中會crash)，除非把MTP拿掉，MTP拿掉直接破功，只剩90token
目前感覺玩玩可以，不過可能先等作者調整後比較好。
我是9700Pro雙卡, MSI X670E Carbon Wifi + 128G DDR5
-
今天花了一整天叫AI把它整個跑通了。真的非常快，第一次看到200tokens這種數字，decode時字出來的速度看著就爽。但同樣的剛出來的關係吧，問題很多，我覺得無法實用，就撤掉換回strata了。- context 太小96K (不好調整)
- 並發預設8，而且是硬限制，其它數字調下去立刻crash，所以無法從這掙vRam
- vision預設沒掛，掛上去的話無法跑(忘了什麼原因，印象中會crash)，除非把MTP拿掉，MTP拿掉直接破功，只剩90token
目前感覺玩玩可以，不過可能先等作者調整後比較好。
我是9700Pro雙卡, MSI X670E Carbon Wifi + 128G DDR5
-
@Kuo-Ke-Hung
不错，不错，你用的是哪个版本的vllm？
搞得我都有点心痒痒，等paiton再更新一波再说 -
@fcme 用的是paiton的docker image, 版本就它文裡提到的paiton-vllm-plugin:qwen38-flashnext-rocm10-vllm029-20261010-r1
-
9/2買撼訊R9700 52100台幣合人民幣10919元，因為國外反應待機無負載仍有高頻音，個人對聲音比較敏感，幾經考慮後退掉了。後來該卡在我退貨後也漲到59000, 此時我馬上買下技嘉60890元(12761人民幣)，之前價差讓我掙扎，既然撼訊漲上來也不用多做考慮。技嘉的用料及噪音表現是比較優秀的，5年保固期也比撼訊要長。美國amazon在9月技嘉和華碩都是1699美元，一度考慮過，現在10月amazon價格也來到1960美元了。
目前手上已經有兩張5060ti跑strata還算滿意，R9700之後應該是投入comfyui. 還好另一台機器沒辦法雙卡，不然我可能又忍不住再買一張R9700 -
-
9/2買撼訊R9700 52100台幣合人民幣10919元，因為國外反應待機無負載仍有高頻音，個人對聲音比較敏感，幾經考慮後退掉了。後來該卡在我退貨後也漲到59000, 此時我馬上買下技嘉60890元(12761人民幣)，之前價差讓我掙扎，既然撼訊漲上來也不用多做考慮。技嘉的用料及噪音表現是比較優秀的，5年保固期也比撼訊要長。美國amazon在9月技嘉和華碩都是1699美元，一度考慮過，現在10月amazon價格也來到1960美元了。
目前手上已經有兩張5060ti跑strata還算滿意，R9700之後應該是投入comfyui. 還好另一台機器沒辦法雙卡，不然我可能又忍不住再買一張R9700 -
-
-
还有这个。4卡R9700 ，聚合输出 4583 t/s ，我靠。啥概念？ 作者应该不会玩虚的。。。。
https://x.com/coldniko/status/2109371125129970071
并发 | 6 in flight（Slots 6/8，G0-G3 四个 group，G0/G1/G2 各 2 路，G3 空闲） 。R9700这要炒上18000吧？
再换个思路，如果QFN 3.8可以，那GLM 5.3 FLASH按参数量换算，也能达到QFN至少1/2的 吐字效率吧？。。。。 -
还有这个。4卡R9700 ，聚合输出 4583 t/s ，我靠。啥概念？ 作者应该不会玩虚的。。。。
https://x.com/coldniko/status/2109371125129970071
并发 | 6 in flight（Slots 6/8，G0-G3 四个 group，G0/G1/G2 各 2 路，G3 空闲） 。R9700这要炒上18000吧？
再换个思路，如果QFN 3.8可以，那GLM 5.3 FLASH按参数量换算，也能达到QFN至少1/2的 吐字效率吧？。。。。 -
-
@applejuice
我當初台幣700/16g買的，現在已經漲快6倍了。 -
@paul-hou
试一试找找看fanxiang....他起价没有那么夸张 （3倍 - 4倍左右） -
主板：技嘉AORE G 两个PCIe5.0x8走的都是CPU，双R9700显卡，提示以下错误！
以下信息是什么意思？求助各位大佬们
你的判断方向是对的——两卡确实都直连 CPU（root port 00:06.0/00:06.3），物理上具备 P2P 条件。但实测 P2P 仍被掐死，元凶是 root port 上 ACS 的三个阻断位全开（ReqRedir+ CmpltRedir+ UpstreamFwd+），强制卡间流量绕道内存。这是 Intel 消费级平台（Arrow Lake）为 VT-d 隔离硬连线的，BIOS 关不掉，iommu=pt 也救不了——所以不是驱动没配好，是主板级天花板。当前 53 tok/s 已经是这台机器能榨出的最优解了。记忆已更新（修正了之前"硬件无 P2P"的旧结论 → 实锤为"ACS 隔离"），下次不会再拿旧说法糊弄你。
-
@Magic629 论坛似乎还没有Intel 消费级平台跑通P2P的吧，跟主板拆不拆分没关系，是平台不行，论坛大神们跑通的都是AM4、AM5和X99、EPYC这些。我也是小白，不知道说的对不对，你要是跑通的记得带带我啊哈哈哈
-
@Magic629 论坛似乎还没有Intel 消费级平台跑通P2P的吧，跟主板拆不拆分没关系，是平台不行，论坛大神们跑通的都是AM4、AM5和X99、EPYC这些。我也是小白，不知道说的对不对，你要是跑通的记得带带我啊哈哈哈
-
@Simon-Li-0 我也是新手
但是我是完全新入手
所以直接奔着服务器级别来买@applejuice 我是五六年前的老平台了，Z490主板，好巧不巧它支持pice4.0拆分8X8，之前看到SGlang双卡tp，就折腾了一下，参考的是https://lcz.me/topic/1925 这篇帖子，也是自编译了内核正常通过了，但是实际和x99还是不一样，GFX Push实际是3.45GB/s始终上不去，我基础太差了，就没在往下折腾了。
-
还有这个。4卡R9700 ，聚合输出 4583 t/s ，我靠。啥概念？ 作者应该不会玩虚的。。。。
https://x.com/coldniko/status/2109371125129970071
并发 | 6 in flight（Slots 6/8，G0-G3 四个 group，G0/G1/G2 各 2 路，G3 空闲） 。R9700这要炒上18000吧？
再换个思路，如果QFN 3.8可以，那GLM 5.3 FLASH按参数量换算，也能达到QFN至少1/2的 吐字效率吧？。。。。 -
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！
