求助！OCuLink/USB4 + 7900 XTX跑AI推理的实际表现如何？有没有用过的老哥说说大坑？

[abaalei]

7900xtx跑LLM 还是不错的，详情可以看看我的折腾实录

[terry]

不建议使用显卡坞，显卡坞的价格可以买一x99洋垃圾了，为什么要买显卡坞，差的显卡坞用起来各种糟心，xtx性能不错，我用显卡坞的经历就是不好用：

[CS6]

OCuLink/USB4 為什麼不考慮走 m.2 方案？ 我整套拿下來4000台幣左右。
我用的是開源宇宙的顯卡屋＋ＡＤＴ OCuLink m.2 PCIE
散熱問題非常嚴重，我都很擔心哪一天燒起來
如果你機器本身是支持 OCuLink 那當然直接上 OCuLink
但如果你都有錢買 Framework Laptop 16 不如直接組一台新的洋垃圾....

[densha]

小弟自從接觸了老特說開始對本地AI萌生興趣，因為公司網路限制很多，封鎖大部分的AI domain，而且就算找到可以連的雲端AI，使用幾個小時下班前DLP告警就噴了幾百筆，嚇的我不敢再用，然後就腦筋就動到外接這招。

最近從淘寶買了一組需要自己DIY組裝的顯卡塢，連接方案我挑的是SlimSAS轉接卡不是常見的OCuLink/雷電，因為我們公司就是很常見的品牌套機，這些接口不存在的，本身就重加上電源供應器、7900XTX整組拎去公司簡直像舉啞鈴重訓一樣

費了一番力氣組裝好，裝好最新amd驅動，打開 GPUZ，有跑滿i5-9500世代的PCIE 3.0x16，實際表現因為才體驗一個多小時還沒有測太多，掛Qwen3.6-27b-Q4_K_M，文字推理一秒可以噴4x-5xT/s，個人覺得滿意，終於可以開始享受上班玩本地AI了。

[terry]

@densha 多看论坛过往的帖子，有xtx的很多优化，抄作业就好，50t/s正常。

[hanyoud]

@terry 我有一台MINI PC想着利用起来，就看外接有多大损失。 散热问题Mark一下 ，THX

[wobuxiee]

@hanyoud 我也是有一台mini PC，但是没有oc口，计划把另外一个m2硬盘改成OC口，然后接一个7900xtx，现在就是不清楚用显卡坞好，还是搞一套x99好

[terry]

@hanyoud 视频里讲的很清楚了，不想赘述，想要深入了解，去油管看吧。总之就是单卡显存够，没啥影响。一旦设计内存缓存，外接的劣势就特别大。

[terry]

@wobuxiee oclink比雷电4强很多，比雷电5也好，但是和原生相比差很多。

[wobuxiee]

@terry 感谢大佬的回复