我建议小白不要上来搞显卡,先用在线模型API过度一下.
-
我建议小白不要上来搞显卡,先用下在线模型API过度一下.
最近的老黄的显卡,溢价有点太高了.
主流版本显卡,最少32G起了. 你搞老黄 RTX 4090 买一个上万了.
5月份之前,发布都是小尺寸模型,Qwen 3.6 27B,都发布三个月了.
这两个月,发布的基本都是 大尺寸的模型,显存至少96G才能跑.
尤其deepseek v4 flash.
小白一上来,脑袋一热买了几万块钱的卡,玩了半个月不到只能小黄鱼转掉.
应该先用 在线API,先试试, 几百块钱能玩一个月. 自己有没有场景再搞.
只要不是特别敏感的话题, 在线API都能胜任.
你要是东南亚,干大事的,你就不在乎十几万买个 rtx pro 6000 96G了.
99%的人,都是正经人, 别去投资显卡, 先自己会用了再说.
我日token消耗 3个亿,按道理,应该本地搞一个显卡吧.
我本地是有rtx 4000 20G显存,但是就是编程后,跑程序测试用的, 正式上线我还是切换在线api.
我没有想法, 主要是显卡硬件需要折旧, 两年后我几万块钱买的显卡,再卖半价卖不掉.
所以还不如 搞在线API先用着,真正赚了大钱,再搞显卡吧.
直接上 rtx pro 6000 96G, 这个入手怎么都合适.
-
24G 7900XTX可以跑。测试平台 Windows 11.双显 集成跑显示+独立跑算力。没问题。
