請教大神 RTX PRO 4000 24G Blackwell 1萬RMB 4.8萬台幣值得入手嗎？

CS6

566656661

很看你的用途吧, 這張卡本來就是閹割之後的5070Ti然後再加VRAM

不涉及ComfyUI的話只跑LLM或者昨天的trellis 2, 其實這張卡跑Qwen 3.6 27B估計也能拉到80到100K上下文, Gemma 4 31B就算能用NVFP4估計上下文也不會太多, MoE應該問題不大

不過買之前推薦上Vast.ai租借個兩三天測試一下跟跑一跑Benchmark

CS6

@566656661 说:

Vast.ai

我都忘了 Vast.ai 感謝提醒！

https://vast.ai/pricing/gpu/RTX-PRO-4000

terry

1万能买到当然值得入手，这不比3090强嘛，功耗低，省心。

never neve

對不起....差幾分鐘....我.......

566656661

@terry

這卡沒加價前的確是1萬多一點

但是加完現在快要1萬4港幣了

CS6

@never-neve QQ 只好去買 PRO4500了，PChome 好貴
目前候選是 https://shopee.tw/全新三年保-RTX-4080-Super-32G-訂製全新非魔改擴容-LLM-跑圖-多併發可參考-i.34412365.49753842545

CS6

不過我也還在跑測試，結果還沒出來也不敢買

never neve

現在原價屋84000元台幣一張，49500價格幾乎是快腰斬的價格.......而且是全新，淘寶上價格亂亂的1.3-1.4萬人民幣，但這些價格有些居然是SFF版本（閹割板？顯存寬帶只有432GB/秒）...正常的PRO4000要有672GB/S...

CS6

@never-neve 真的是期貨...貴到哭
84000元我寧願去買 131000 的 PRO 4500

Leadtek NVIDIA RTX 4000 Ada 20G 4萬有找，但我很懷疑跑得動我的需求

ppk

4w?在哪?我是不是錯過了甚麼?
我可以拿到7.5w全新
跟24h差1w

CS6

@ppk 哪有便宜的 PRO 4500 嗎？

ppk

@cs6 你想nvlink吧
但都10w以上

CS6

@ppk 沒誒，我是 R9700 *2 + 一張 N卡的玩法
主要應付一些 3D 的AI需求
如果10初也很好啊，比 24H 少3萬誒

566656661

@CS6

Linode也有4000 Ada 有需要去試試看

ppk

@cs6
沒= =
pro 4000 我也是在想他沒有nvlink
實質上就是3090的省心板+省電
4500 12w沒貨

CS6

@ppk 我以為是3070？算力沒那麼強吧？
我其實只要一張還行的渦輪Ｎ卡吧。正在 vast.ai跑測試，說實在 4500 的價格真的太硬了，要不是能分期，13萬真的不考慮

ppk

@cs6 抱歉我沒注意算利的部分
只在意的是vram
3090有接近1T的記憶體速度
但rtx pro沒有= =
哈哈哈
但我覺得LLM我會跑雲端
雖然現在生成圖片影片也可以跑雲端
但是本地架構LLM感覺CP值不高
所以本地跑，我不在乎速度(不是LLM)

CS6

@ppk 完全同意，我LLM 都是找雲端，本地都是做實驗跟產素材
我目前 R9700 32g vram 其實很夠用(預計會加一張組 64G)，問題就是我有些想玩的東西需要 cuda ....
現在就是在想到底要組到啥程度
R9700 + PRO 4500 (＋13萬支出)
R9700 + R9700 + PRO 4000 (＋?萬支出)
R9700 + R9700 + RTX-4080-Super-32G (＋11萬支出)
R9700 + R9700 + 一張二手Ｎ卡

566656661

@CS6

個人覺得估計頭一個就夠了, 混合的話可以用llama cpp + vulkan, 分開的話就各自跑唄

抡锤者

請教大神 RTX PRO 4000 24G Blackwell 1萬RMB 4.8萬台幣值得入手嗎？