我觉得大家有空可以多囤几张 RDNA4 显卡…

[applejuice]

@kos-or 价钱太贵了 我不买了
自己买到一张r9700 也已经是涨价30-40% 过后的价钱了

现在两张3090 跑strata
一张r9700 跑vllm
够用了
只需要压着自己购买欲望就可以了

[kos or]

@applejuice said:

一张r9700 跑vllm

請問 vLLM 要怎麼搭配效能才好？ 我只使用過一次vLLM 印象不深刻
對SGLang 印象蠻好的 很穩定

[hanber121]

@bunsei 请教大佬，如果用radiance这个引擎纯跑推理，再加第三张r9700还有收益吗？我现在双卡，加一张卡可以让权重全驻显存。但是加卡同时也会增加通讯开销，我是3条pcie 4.0x16, 不是5.0。此消彼长，我不太清楚能否有提升，能提升多少，是否值得加卡。感谢大佬解惑

[Bunsei]

@hanber121 你得理解，算力这东西是实打实加上去了~ 但因为各种限制比如平台支持的PCIE通道数等等乱七八糟的，所以可能提升可能不会太显著，而且你要准备好AI，改Radiance，因为它里面很多都是针对双卡做的优化。

[imbiplaza ASUS]

@kos-or

我们要学马斯克，囤积算力卡

[kos or]

@imbiplaza-ASUS

囤了算力卡 然後都在用 Deepseek API, Codex API 支持AI公司 避免泡沫化

[imbiplaza ASUS]

@kos-or

不要忘记grok, 还有使用他的卫星网络。。。

[kos or]

@imbiplaza-ASUS

這樣 Elon Musk 會變成算力和數位大王

到處都是Musk的身影

我們會活在 Musk 個人的理想世界當中

[applejuice]

@kos-or 我用vllm 是因为 单张r9700 在vllm 支持比较好 prefill decode 都不错

如果是3090 两张我都用sglang strata

[XIUNAN ZHI]

@懒人烘培 说:

显卡已经涨价多轮了，还要继续涨，真实的

为何半导体股票一路向下？我觉得市场已有答案。现在是有价无市，五六万的5090有几个人会买？待内存周期转换时，融资做显卡的会先爆。所以，我准备等，前面都是废话，哈哈，主要是因为没钱。

[Xiaote]

本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2579-1217-1（系统自动发放，显示稍有延迟）