[求助] 想在ITX机箱里塞双卡7900 XTX,组成AI小钢炮带出国,可行吗?
-
我劝你直接放弃这个想法,我用的是标准atx机箱和atx大板,我一开始也是想上两张;7900xtx买了一张二手的先试试,本来打算后续靠谱靠配一下版主的4090。这个蓝宝石的超白金,号称是3.5宽而实际上插进之后,这哥们要占5个以上的插槽,临近他的两个插槽儿基本上除了那种特别特别薄的卡什么也用不了,就是那种特别特别老的网卡才有可能。我这还是atx机箱……然而完全装不下第二张xtx。除非像班主那样第二张搞个涡轮的把这个挪到第二个16x插槽去去。放弃吧兄弟都出去了还搞什么amd
-
我這幾星期測試了很多顯卡,而且很多都是雙卡,3080,2080,7900,4080S
大部份都是 SG Lang Radix + HiCache. 現在測試下來就 雙3080 的性價比最好
主板 X99 TF 加 64G ddr3 要加2張3080 全新重做就1W 左右。上下文只比7900 小一點速度慢一點點 -
-
你已經有一張 5090,這種情況按「目標模型能不能整段放進顯存」來選,比按卡的新舊更實際。
- 雙 R9700 AI Pro:合計 64G、單卡約 300W、雙槽短卡好裝;但沒有 NVLink,張量並行走 PCIe,所以主板必須 CPU 直出 x8/x8。X99 洋垃圾基本拆不出來,雙卡別建立在這個平台上。ROCm 對 gfx1201 這代要配較新的 vLLM/SGLang,先確認你要用的框架版本對得上。
- 你心動的那個 Flash/Flash-Next:如果是 MoE,先把量化後的權重體積算清楚,再加 KV 與通信緩衝。總量能進 64G 才值得上雙卡;進不去,雙 R9700 也只是頻繁 offload,速度被 PCIe 吃掉。
- 5090 留著跑單卡大模型/視頻,R9700 雙卡專職 LLM,是分工而不是替代。
- 性價比路線:先單張 R9700 32G,把 27B/量化 MoE 的實測 t/s 和每天的 token 量對一下,不夠再補第二張(同型號同批次最省事)。這樣萬一模型選錯,損失只有一張卡。
一句話:先定模型、再算顯存、最後才決定買幾張;別為了「雙卡」去遷就一個裝不下的模型。
-
感谢
大佬建议,现在3090这边基本找不到,4090 48g的只有国内买得到,然后也带不过来,而且贵死。 5090 我已经有一张了, 现在市场上的天价根本不划算。
我主要缺llm算力,每天都需要烧大量的token,所以才想部署一台本地算力。
我现在有点盯上r9700 ai pro, 想上双卡, 但是看到qwen3.8 fast flash, 又很心动。。。想看看有没有性价比高的选项能部署这个模型。@Quanta-Magic 你英國反正天氣冷, 1張 3090 / 7900xtx 都夠你買2張 3080 20G. 我測試了這幾星期我要是情況就買2 x 3080, 有需要就再買多台. 反正當暖爐用
因為我測下來, 7900 沒比 3080 快多少. 3090 我未測, 下星期才到貨才知道 -
@franklee006 3080 20g 是魔改的矿卡可能性很高啊,而且英国这边也没得卖,带过来被查到罚款得不偿失
-
-
@franklee006 3080 20g 是魔改的矿卡可能性很高啊,而且英国这边也没得卖,带过来被查到罚款得不偿失
@Quanta-Magic 我在 JD 買了3張都沒事
-
@franklee006 大佬我刚刚翻了你的帖子,你到底有多少显卡啊?我看你有7900xtx, 也有9700, 然后还有3080??
最后体验最性价比的是哪个? 而且能透露一下你搞这么多是用来做什么的吗? -
@franklee006 大佬我刚刚翻了你的帖子,你到底有多少显卡啊?我看你有7900xtx, 也有9700, 然后还有3080??
最后体验最性价比的是哪个? 而且能透露一下你搞这么多是用来做什么的吗?@Quanta-Magic 我沒有 9700, 4080S, 2080, 3080, 3090 剛到
其實自己有做開發, 不過比較主要是好奇心. 買了就測試一下玩下有需要又可以自己用最好當然是 4080S 32G, 因為原生又支持 FP8. 但如果 7900 vs 3080 因為 7900 現在快比 3080 貴一倍. 但使用體驗其實沒有好一倍. 我覺得可能就好20-30%. 所以如果給我2者選1我應該都會選 2x 3080
-
4080S 32G 如果靠谱的话我还真想选这个,因为价格和9700差不多, 速度和生态都比9700好,我主要担心是魔改。
@franklee006 你是在台湾还是香港?目前你们那本地有货吗? -
4080S 32G 如果靠谱的话我还真想选这个,因为价格和9700差不多, 速度和生态都比9700好,我主要担心是魔改。
@franklee006 你是在台湾还是香港?目前你们那本地有货吗?@Quanta-Magic 香港的, 我是在Taobao 跟一個賣家買的, 第一次跟他買 2x 2080Ti. 看他的都測試過才出貨, 之後才再跟他買 2 x 4080S. 暫時還沒有問題. 但比 2x3080 貴4倍, 因為主機也貴些, 內存用DDR4 也貴些. 賣家也要有利潤所以我當時買要4萬左右. 我想就是你大約給4倍價錢, 買2倍的性能?
-
其實我覺得重做的3080 其實現在價錢還是很可以的, 4千左右. 性能也沒比 7900 差太多.
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
@Quanta-Magic 其實如果上下文 180k 夠你用其實加上了 HiCache 後跟 7900 和 4080S 就是 Prefill 比 4080S 慢些, 但跟 7900 差不多的. 我現在已經有點想再買4張 3080 加個 H12 的主板玩
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
@Quanta-Magic UPS 寄過去就好了, 我經常寄
-
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够 -
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够@Quanta-Magic 不知道, 我是做網店的. 一直都有寄些車用配件過去, 我就寫是 sample 也沒有要我打稅
-
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够@Quanta-Magic 用 API 不好嗎, 我覺得小model 用做牛馬還行. 但大的還是買API 方便
-