感谢大佬无私分享!!
月半炒饭
@月半炒饭
-
Strix Halo本地部署 Qwen3.8 Flash Next — 環境、失效、可行與技術總結 -
Qwen3.8-27B 本地服务器部署与验收报告(AMD Radeon AI PRO R9700 32GB | llama.cpp HIP | 128K 上下文 | 多模态 | MTP 投机解码)请参考指正,谢谢!这个帖子对我帮助很大,正在考虑要不要买一张r9700
-
SGLang :Qwen3.8-27B INT4 开 MTP 投机 从 41 跑到 89 t/s 踩坑记录(draft 白占 4.7G + 一个会崩服务的坑)感谢,非常好。
一个不成熟的小建议,续贴能不能在开头把之前的硬件信息也贴出来,方便大家一起学习探讨