准备好迎接Qwen3.8-Flash-Next 125B A6B

[GitNo2]

@terry 用的是oclulink连接，3090占用23.5g，其余的扔到395上

[GitNo2]

@stxpnet 395不像dgx spark有200g，不过听说有人用oculink外接rdma网卡实现互联的

[vosrock]

@stxpnet 说:

对啊，就看它优化得如何了。 我一直的设想是，这种MOE是文科生，回答问题速度快，多轮下来，直击一个问题的各个方面，然后最后进行一个大总结，速度快，角度全。应该和同等价值硬件能跑稠密模型有得一拼，然而事实却总是打脸。 我最后还是会选择稠密，宁愿久一点，都不要错一点。

应该是激活参数的大小决定了能力上限了，A6B我倒是觉得小了点，不过等出来看看吧，之前尝试过QWEN3 CODER NEXT，80BA3B跑内存也能到1000PR30TS，这个速度实际上也可用了，这个125B估计又要Q4量化才玩得动了

[Bunsei]

本来以为128G的模型，结果发现是一个快到200G的...只能等老哥们的实测效果了。

[applejuice]

@Bunsei max5 ultra 你值得拥有

[Bunsei]

@applejuice 说:

@Bunsei max5 ultra 你值得拥有

我在等第一波测评出来。 如果效果好的话，我打算换个平台。不用AM5了...

[Arroyo Cheung]

下载中

[vosrock]

@Bunsei 说:

本来以为128G的模型，结果发现是一个快到200G的...只能等老哥们的实测效果了。

毕竟这么大的模型开放权重，我倒是觉得用不起不是别人的问题，是我的问题

[David Chen]

我剛剛丟給AI了....她生成好 llama啟動指令，我明早起來驗收

[Francis Cheng]

https://huggingface.co/Baekpica/Qwen3.8-Flash-Next-Mixed-Quant-GGUF
這裡有大神在測試Gdx Spark，打算拿板凳等他。