雙R9700玩qfn的朋友又有得玩了
-
@paul-hou 现在ddr4 3200 太贵了
-
-
@applejuice
我當初台幣700/16g買的，現在已經漲快6倍了。 -
-
@fcme 对硬件的追求是无止境的
当初买pro 6000 的现在应该想着买多一块pro 6000
-
主板：技嘉AORE G 两个PCIe5.0x8走的都是CPU，双R9700显卡，提示以下错误！
以下信息是什么意思？求助各位大佬们
你的判断方向是对的——两卡确实都直连 CPU（root port 00:06.0/00:06.3），物理上具备 P2P 条件。但实测 P2P 仍被掐死，元凶是 root port 上 ACS 的三个阻断位全开（ReqRedir+ CmpltRedir+ UpstreamFwd+），强制卡间流量绕道内存。这是 Intel 消费级平台（Arrow Lake）为 VT-d 隔离硬连线的，BIOS 关不掉，iommu=pt 也救不了——所以不是驱动没配好，是主板级天花板。当前 53 tok/s 已经是这台机器能榨出的最优解了。记忆已更新（修正了之前"硬件无 P2P"的旧结论 → 实锤为"ACS 隔离"），下次不会再拿旧说法糊弄你。
-
@applejuice
哈哈哈，其实都是用来玩的，真正生产力能有多少。玩个开心，不管软件硬件，玩开心就好。 -
今天花了一整天叫AI把它整個跑通了。真的非常快，第一次看到200tokens這種數字，decode時字出來的速度看著就爽。但同樣的剛出來的關係吧，問題很多，我覺得無法實用，就撤掉換回strata了。- context 太小96K (不好調整)
- 並發預設8，而且是硬限制，其它數字調下去立刻crash，所以無法從這掙vRam
- vision預設沒掛，掛上去的話無法跑(忘了什麼原因，印象中會crash)，除非把MTP拿掉，MTP拿掉直接破功，只剩90token
目前感覺玩玩可以，不過可能先等作者調整後比較好。
我是9700Pro雙卡, MSI X670E Carbon Wifi + 128G DDR5
-
今天花了一整天叫AI把它整個跑通了。真的非常快，第一次看到200tokens這種數字，decode時字出來的速度看著就爽。但同樣的剛出來的關係吧，問題很多，我覺得無法實用，就撤掉換回strata了。- context 太小96K (不好調整)
- 並發預設8，而且是硬限制，其它數字調下去立刻crash，所以無法從這掙vRam
- vision預設沒掛，掛上去的話無法跑(忘了什麼原因，印象中會crash)，除非把MTP拿掉，MTP拿掉直接破功，只剩90token
目前感覺玩玩可以，不過可能先等作者調整後比較好。
我是9700Pro雙卡, MSI X670E Carbon Wifi + 128G DDR5
-
今天花了一整天叫AI把它整個跑通了。真的非常快，第一次看到200tokens這種數字，decode時字出來的速度看著就爽。但同樣的剛出來的關係吧，問題很多，我覺得無法實用，就撤掉換回strata了。- context 太小96K (不好調整)
- 並發預設8，而且是硬限制，其它數字調下去立刻crash，所以無法從這掙vRam
- vision預設沒掛，掛上去的話無法跑(忘了什麼原因，印象中會crash)，除非把MTP拿掉，MTP拿掉直接破功，只剩90token
目前感覺玩玩可以，不過可能先等作者調整後比較好。
我是9700Pro雙卡, MSI X670E Carbon Wifi + 128G DDR5
-
@Kuo-Ke-Hung
不错，不错，你用的是哪个版本的vllm？
搞得我都有点心痒痒，等paiton再更新一波再说 -
@fcme 用的是paiton的docker image, 版本就它文裡提到的paiton-vllm-plugin:qwen38-flashnext-rocm10-vllm029-20261010-r1
-
9/2買撼訊R9700 52100台幣合人民幣10919元，因為國外反應待機無負載仍有高頻音，個人對聲音比較敏感，幾經考慮後退掉了。後來該卡在我退貨後也漲到59000, 此時我馬上買下技嘉60890元(12761人民幣)，之前價差讓我掙扎，既然撼訊漲上來也不用多做考慮。技嘉的用料及噪音表現是比較優秀的，5年保固期也比撼訊要長。美國amazon在9月技嘉和華碩都是1699美元，一度考慮過，現在10月amazon價格也來到1960美元了。
目前手上已經有兩張5060ti跑strata還算滿意，R9700之後應該是投入comfyui. 還好另一台機器沒辦法雙卡，不然我可能又忍不住再買一張R9700 -
-
9/2買撼訊R9700 52100台幣合人民幣10919元，因為國外反應待機無負載仍有高頻音，個人對聲音比較敏感，幾經考慮後退掉了。後來該卡在我退貨後也漲到59000, 此時我馬上買下技嘉60890元(12761人民幣)，之前價差讓我掙扎，既然撼訊漲上來也不用多做考慮。技嘉的用料及噪音表現是比較優秀的，5年保固期也比撼訊要長。美國amazon在9月技嘉和華碩都是1699美元，一度考慮過，現在10月amazon價格也來到1960美元了。
目前手上已經有兩張5060ti跑strata還算滿意，R9700之後應該是投入comfyui. 還好另一台機器沒辦法雙卡，不然我可能又忍不住再買一張R9700 -
-
-
还有这个。4卡R9700 ，聚合输出 4583 t/s ，我靠。啥概念？ 作者应该不会玩虚的。。。。
https://x.com/coldniko/status/2109371125129970071
并发 | 6 in flight（Slots 6/8，G0-G3 四个 group，G0/G1/G2 各 2 路，G3 空闲） 。R9700这要炒上18000吧？
再换个思路，如果QFN 3.8可以，那GLM 5.3 FLASH按参数量换算，也能达到QFN至少1/2的 吐字效率吧？。。。。 -
还有这个。4卡R9700 ，聚合输出 4583 t/s ，我靠。啥概念？ 作者应该不会玩虚的。。。。
https://x.com/coldniko/status/2109371125129970071
并发 | 6 in flight（Slots 6/8，G0-G3 四个 group，G0/G1/G2 各 2 路，G3 空闲） 。R9700这要炒上18000吧？
再换个思路，如果QFN 3.8可以，那GLM 5.3 FLASH按参数量换算，也能达到QFN至少1/2的 吐字效率吧？。。。。 -
本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！
