别买显存低于20G的显卡了,最起码起步就是32G

[mark]

后悔买了 英伟达这个20G显卡(NVIDIA RTX 4000 SFF Ada Generation 20GB).
再配机器,必须32G显存最起码
不过在这台小工作站,已经算顶配了.

在本地能舒畅的能跑 9B模型, 稍微大一点 ,就卡.
我日常用 GLM4.6V-flash Q8量化 ,还有 Gemma 4 E4B Q8量化.

老大说的, Qwen3.6 27B Q4KM,我跑还是卡. 我用的是 LM Studio

[terry]

就这么点事不用后悔，再买一个就是了，

[johnnybegood]

老话说得好 “买错最贵”

[y2k]

280g带宽拖累了，小黄鱼出掉回点血