有没有人试过这个TQLLM？ 号称比strata快16%

[stxpnet]

直接等Strata了，真的是很好的框架，估计 再等2-3天享受160t/s的丝滑

[vosrock]

@kos-or 我没有去跑这样的评分对比，但是我最后保留下来的是GCQ-IQ3S和swift iq4xs,IQ3S速度会快20%左右，用脚本跑长流程的时候，基本都是100TS，iq4xs80ts,众所周知，strata速度在256K上下文长度下，衰减基本不会察觉

[applejuice]

用strata 就敢敢开512k context 了

[vosrock]

@applejuice 亲，如果跑IQ3S，我甚至开的是768K上下文，根本不慌，2500的预填充技术上前缀复用，跑得很爽

[NY Zhao]

@vosrock 请问下如何开大于256k的上下文，是用外推的方式吗？

[NY Zhao]

@vosrock GCQ-IQ3S和swift iq4xs，这两个精度，有多大区别啊，我一直用GCQ-IQ3S，编程和agent，不知道IQ4，有多大改进

[applejuice]

@NY-Zhao 其实 我不觉得有人可以很确定的 回答你这个问题
只有自己用下来才知道
看网上测试的成绩

[vosrock]

看网上的成绩也没用，必须自己跑你工作的项目，不出问题就是个好模型

[vosrock]

@NY-Zhao 是的，用YARN,这些东西都不用自己动手的，交给AGENT吧

[Prio]

好推荐，我就是单卡3090用户，看他即将推出：Qwen3.8-Flash-Next 在单块 RTX 3090 显卡上运行，我期待中