抡锤者

@Ben-Lee 这个模型是FP8
7900xtx 跑的是低精度模型。

楼主应该用
tcclaviger/Qwen3.8-27B-DFlash2-FP8

这个模型，不应该用MTP3，层数太深也影响效率。

如果一定要用MTP，可以改成1

https://github.com/magiccodingman/vllm-radiance

https://github.com/StevenChenSE/sglang/tree/gfx1100-support#chinese

@张光璞 说:

99主板好像没有ReBAR

X99主板用ReBAR，需要打BIOS补丁的。所以才去买华南金牌X99主板，他们把补丁已经打好了。ReBAR 只能在UEFI开启，传统BIOS不支持。