ornith-1.0-35b Q8 與 Qwen3.6-35b-a3b Q8....大家覺的哪個更優秀?

[David Chen]

我們知道ornith-1.0-35b 是 gemma4 + Qwen 和親出來的
gemma4 31B Q8 用一段時太慢又太笨，感覺只能聊天
現在正在二選一
ornith-1.0-35b Q8 與 Qwen3.6-35b-a3b Q8....大家覺的哪個更優秀?

[terry]

其实小模型30B附近，Qwen3.6 27b第一，然后就是Qwen3.6 35B A3B，这些问题都比较烂了，没必要重复了。Gemma4早就被打回原形了。

[stxpnet]

你的硬件配置也没说啊。

[David Chen]

設備
9950X3D
64RAM
5090 x 2

[stxpnet]

都不如qwen 3.6 27b,你这配置如果是64G显存，跑QWEN 3.5 122B A10应该都能秒杀你说这两个了。 一个是A3B小菜鸡，ORNITH似乎是GEMMA+QWEN 3.6 35B A3B的 菜鸡和菜鸡能结合出来个啥。

[stxpnet]

还有个刚出的 KAT-Coder-V2.5-Dev. 也是QWEN 3.6 35B A3B魔改的，号称针对agentic code，也可以试试，用双F16的KV CACHE应该很舒服。

[David Chen]

此主題已被删除！

[fcme]

@David-Chen
Ornith Q5/Q6就很好，在你5090上应该可以飞起，或者你自己下载原始权重量化个FP8估计更快。
就非软件工程师的普通ICT应用来说足矣，看DS Pro对它工作的评价。

[sarcoma]

gemma4 26b a4b我觉得还行，哈哈哈，不接agent，直接当个推理模型、IT知识库用

[starryskyknight]

目前就是 使用qwen 3 6 27b吧 等 ornith 1.0 31b dense 出來
再討論這個問題比較有意義