下单 7900xtx, 开始折腾 llama.cpp

[exllm]

我拼多多那家旗舰店买的， 5899， 安全下车。

提醒各位注意天猫那家旗舰店，前几天有活动下了一单，收到货一查系列号已被注册， 而且是去年的老卡，怀疑二手充新，扯皮退货退款。

[AGI]

昨天到货了，连同1000w电源，5729

[ktswang]

我只能说你买贵了，抖音+红包 5669 一套

[terry]

@AGI 这价格赚到了。我当时卡就是6100，过年的时候，草....

[terry]

@exllm 必须退掉，注册国的，肯定是老卡，而且大概率有暗病，就是修过的。

[terry]

@ktswang 抖音卖的能不能激活保修？

[AGI]

@ktswang 之前这个价格，后来红包没了，只有现在的红包，就买了

[iocat]

mtp快了好多啊，我原始7900xtx跑27b q4只有

[iocat]

我换了vulkan，发现好像不用上mtp速度也有这么快。。

[iocat]

vulkan + mtp 直接跑到50token/s了

[lei ruan]

以前用免费的API，经常卡死，现在自由了。

[exllm]

@iocat 我这 vulkan + mtp 最高可以到57 tokens / s

[williamlouis]

上线文长度是重点。多少？256K有吗？