【广而告之】 Strata 在 1个小时 之前刚刚又更新了,性能又有所提升。。。
-
-
-
-
-
-
-
-
-
IQ3长上下文可能精度不够,strata能不能支持8bit的weight?
-
-
-
-
-
最近本地模型推理框架井喷了呀,百花齐放
每天被迫追新,感觉已经背离了当初弄台机协助 自己工作的初心
@张光璞 同感,能力与速度已经到了可用的程度,够用就可以了。有大的功能更新再升级一下,更新速度太快了,现在已经0.1.33了,两天三更,追不上


本帖参与讨论人数已达 10+,入选热议,作者 +3 积分奖励,感谢分享!
