[求助] 想在ITX机箱里塞双卡7900 XTX,组成AI小钢炮带出国,可行吗?
-
你已經有一張 5090,這種情況按「目標模型能不能整段放進顯存」來選,比按卡的新舊更實際。
- 雙 R9700 AI Pro:合計 64G、單卡約 300W、雙槽短卡好裝;但沒有 NVLink,張量並行走 PCIe,所以主板必須 CPU 直出 x8/x8。X99 洋垃圾基本拆不出來,雙卡別建立在這個平台上。ROCm 對 gfx1201 這代要配較新的 vLLM/SGLang,先確認你要用的框架版本對得上。
- 你心動的那個 Flash/Flash-Next:如果是 MoE,先把量化後的權重體積算清楚,再加 KV 與通信緩衝。總量能進 64G 才值得上雙卡;進不去,雙 R9700 也只是頻繁 offload,速度被 PCIe 吃掉。
- 5090 留著跑單卡大模型/視頻,R9700 雙卡專職 LLM,是分工而不是替代。
- 性價比路線:先單張 R9700 32G,把 27B/量化 MoE 的實測 t/s 和每天的 token 量對一下,不夠再補第二張(同型號同批次最省事)。這樣萬一模型選錯,損失只有一張卡。
一句話:先定模型、再算顯存、最後才決定買幾張;別為了「雙卡」去遷就一個裝不下的模型。
-
感谢
大佬建议,现在3090这边基本找不到,4090 48g的只有国内买得到,然后也带不过来,而且贵死。 5090 我已经有一张了, 现在市场上的天价根本不划算。
我主要缺llm算力,每天都需要烧大量的token,所以才想部署一台本地算力。
我现在有点盯上r9700 ai pro, 想上双卡, 但是看到qwen3.8 fast flash, 又很心动。。。想看看有没有性价比高的选项能部署这个模型。@Quanta-Magic 你英國反正天氣冷, 1張 3090 / 7900xtx 都夠你買2張 3080 20G. 我測試了這幾星期我要是情況就買2 x 3080, 有需要就再買多台. 反正當暖爐用
因為我測下來, 7900 沒比 3080 快多少. 3090 我未測, 下星期才到貨才知道 -
@franklee006 3080 20g 是魔改的矿卡可能性很高啊,而且英国这边也没得卖,带过来被查到罚款得不偿失
-
-
@franklee006 3080 20g 是魔改的矿卡可能性很高啊,而且英国这边也没得卖,带过来被查到罚款得不偿失
@Quanta-Magic 我在 JD 買了3張都沒事
-
@franklee006 大佬我刚刚翻了你的帖子,你到底有多少显卡啊?我看你有7900xtx, 也有9700, 然后还有3080??
最后体验最性价比的是哪个? 而且能透露一下你搞这么多是用来做什么的吗? -
@franklee006 大佬我刚刚翻了你的帖子,你到底有多少显卡啊?我看你有7900xtx, 也有9700, 然后还有3080??
最后体验最性价比的是哪个? 而且能透露一下你搞这么多是用来做什么的吗?@Quanta-Magic 我沒有 9700, 4080S, 2080, 3080, 3090 剛到
其實自己有做開發, 不過比較主要是好奇心. 買了就測試一下玩下有需要又可以自己用最好當然是 4080S 32G, 因為原生又支持 FP8. 但如果 7900 vs 3080 因為 7900 現在快比 3080 貴一倍. 但使用體驗其實沒有好一倍. 我覺得可能就好20-30%. 所以如果給我2者選1我應該都會選 2x 3080
-
4080S 32G 如果靠谱的话我还真想选这个,因为价格和9700差不多, 速度和生态都比9700好,我主要担心是魔改。
@franklee006 你是在台湾还是香港?目前你们那本地有货吗? -
4080S 32G 如果靠谱的话我还真想选这个,因为价格和9700差不多, 速度和生态都比9700好,我主要担心是魔改。
@franklee006 你是在台湾还是香港?目前你们那本地有货吗?@Quanta-Magic 香港的, 我是在Taobao 跟一個賣家買的, 第一次跟他買 2x 2080Ti. 看他的都測試過才出貨, 之後才再跟他買 2 x 4080S. 暫時還沒有問題. 但比 2x3080 貴4倍, 因為主機也貴些, 內存用DDR4 也貴些. 賣家也要有利潤所以我當時買要4萬左右. 我想就是你大約給4倍價錢, 買2倍的性能?
-
其實我覺得重做的3080 其實現在價錢還是很可以的, 4千左右. 性能也沒比 7900 差太多.
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
@Quanta-Magic 其實如果上下文 180k 夠你用其實加上了 HiCache 後跟 7900 和 4080S 就是 Prefill 比 4080S 慢些, 但跟 7900 差不多的. 我現在已經有點想再買4張 3080 加個 H12 的主板玩
-
@franklee006 感谢大佬提供宝贵经验,我来酝酿一下3080,估计至少要2张,想想怎么带入关而不会被抓 T^T
@Quanta-Magic UPS 寄過去就好了, 我經常寄
-
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够 -
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够@Quanta-Magic 不知道, 我是做網店的. 一直都有寄些車用配件過去, 我就寫是 sample 也沒有要我打稅
-
@franklee006 大佬UPS 就不会被扣税吗?
另外 我主要目的是想搞一台 qwen3.8 flash next
估计没有四张卡都不够@Quanta-Magic 用 API 不好嗎, 我覺得小model 用做牛馬還行. 但大的還是買API 方便
-
-
这个也是我的纠结点, 我最近用api用的有点凶,同时进行3个大项目,一个月就要花掉300英镑左右, 而且我本身就是写代码的,所以这将会是常态用量。
不过模型更新换代很快,我也怕买多了之后吃灰@Quanta-Magic 你多用 Sub Agent, 我之前也是這樣, 之後我便叫他做 Orchestrator and use Sub Agent to do the work 這樣. 所以我大的 Model 都是用 API , 因為設置其實很麻煩而且有問題又要跟硬件. 所以我覺得如果不是企業用還是用些小模型就夠. 大的 API 買你如果只用他做 Orchestrator 用不了多少的
-
而且現在 Qwen 3.8 Flash next 也沒比 27B 好多少. 起碼要 DS V4.1 / GLM 5.3 Flash 才有明顯能力優勢. 這個你得要多少錢呀
-