下单 7900xtx, 开始折腾 llama.cpp

[laobenxiong]

@rock-shi 嗯嗯, 不过7900xtx的一个优点是噪音小. 这一点虽然老特在视频里面说过, 实际使用还是给我惊喜.

[bobo]

64K上下文够用吗

[johnnybegood]

@laobenxiong 确实贵， 全新未拆封的有5000冒一点点头的， 拆封二手一堆 4500以内的。。。

[goodhat5405]

别纠结钱，走上道才是最重要的。

[lei ruan]

@williamlouis 我昨晚也下单了，6090元，+1000w白金，准备抄作业 。

[exllm]

我拼多多那家旗舰店买的， 5899， 安全下车。

提醒各位注意天猫那家旗舰店，前几天有活动下了一单，收到货一查系列号已被注册， 而且是去年的老卡，怀疑二手充新，扯皮退货退款。

[AGI]

昨天到货了，连同1000w电源，5729

[ktswang]

我只能说你买贵了，抖音+红包 5669 一套

[terry]

@AGI 这价格赚到了。我当时卡就是6100，过年的时候，草....

[terry]

@exllm 必须退掉，注册国的，肯定是老卡，而且大概率有暗病，就是修过的。

[terry]

@ktswang 抖音卖的能不能激活保修？

[AGI]

@ktswang 之前这个价格，后来红包没了，只有现在的红包，就买了

[iocat]

mtp快了好多啊，我原始7900xtx跑27b q4只有

[iocat]

我换了vulkan，发现好像不用上mtp速度也有这么快。。

[iocat]

vulkan + mtp 直接跑到50token/s了

[lei ruan]

以前用免费的API，经常卡死，现在自由了。

[exllm]

@iocat 我这 vulkan + mtp 最高可以到57 tokens / s

[williamlouis]

上线文长度是重点。多少？256K有吗？