Qwen Flash Next for AMD R9700
-
https://github.com/lcchan0525sg/Qwen-Flash-Next-Strata-for-AMD-R9700
适用于 AMD R9700 的 Qwen Flash Next(基于 Strata);包含安装指南、性能调优、基准测试及第三方声明的源码分发包。
Radeon AI PRO R9700、Ryzen 9 5900X、128 GiB 内存、IQ3_S 量化、配置 128K 上下文长度,且 CPU 视觉功能处于空闲状态。输出速率 45 to 56 token/s
欢迎评论
-
https://github.com/Niko1221/Strata
原项目已经支持 AMD 显卡,我的项目只是在此基础上进行了一些调整优化。 -
-
Strata QFN 對於上下文长度好像沒什麼限制 只要内存足夠
"Qwen3.8-Flash-Next 原生最大 Context 為 262,144 tokens(256K),透過 YaRN 可擴展至 1,000,000 tokens(1M)。"
-
-
-