下单 7900xtx, 开始折腾 llama.cpp

[laobenxiong]

参考了大神的帖子和up主的视频, 预算有限的情况下, 下单了一张 7900xtx 24G, 打算折腾一下 llama.cpp. 我打算是在 Minisforum UM880PRO 上折腾, oculink 连接, pve 虚拟机跑 lmde7.

早上到货了, 不得不说, 这个风扇真的很安静, 这个就很值了.

先上几张图. 详细的作业慢慢补.

[墙内人]

这张卡真漂亮，6500的价格太贵了吧，抢劫啊。

[laobenxiong]

手上有一张旧卡, dataland 的 rx5500xt 8G. 对比一下 gpu-z 截图:

[laobenxiong]

先试一下 lm studio 下 qwen3.6-27b 64k 的 tg:

[terry]

可以，从速度来看非常好

[sofine zhao]

最近也正在学习中

[tingqu li]

我是小白正在学习中

[williamlouis]

@墙内人 同感。应该是给 JD 交了保护费。

[asd2667]

说人家贵的大哥好好看看，人家带电源的，一个1200W的金牌电源多钱

[plus]

京东上花了260 买了个850瓦电源 然后咸鱼上掏了7900xtx的卡。再花20元从淘宝上买了个电源同步器。这年头穷的不能再穷了。只能这样玩了。。。。。

[rock shi]

同样价位，个人挺推荐3080 20g*2的，6000不到，qwen3.6 27b，llama.cpp开mtp有50t/s，hermes响应速度感觉跟ds v4不相上下

[kenshin]

差不多吧。京东另一家蓝宝石组装旗舰店，5999元晒图返20元，先马黑洞金牌1200w，530元。你还是蓝宝石的电源。质量有保障的话。还便宜了点。

[laobenxiong]

@rock-shi 嗯嗯, 不过7900xtx的一个优点是噪音小. 这一点虽然老特在视频里面说过, 实际使用还是给我惊喜.

[bobo]

64K上下文够用吗

[johnnybegood]

@laobenxiong 确实贵， 全新未拆封的有5000冒一点点头的， 拆封二手一堆 4500以内的。。。

[goodhat5405]

别纠结钱，走上道才是最重要的。

[lei ruan]

@williamlouis 我昨晚也下单了，6090元，+1000w白金，准备抄作业 。