抡锤者

求分享liuyue包，我也是从他的博客没找到。秋叶包到处都是

@stxpnet 说:

noonghunna/club-3090

看起来不错，我要去试一下

感谢分享，实测有效。我使用的buun这个版本
之前经常出现forcing full prompt re-processing
响应时间15秒左右
现在都是restored context checkpoint
响应时间2-3秒

@566656661 感谢您的回复帮我解惑

我看大家都是使用llama.cpp,是不是它比lm studio更好更直接？

你的预算员同事会感激你的，过不了多久他就下岗了：）