AI本地部署MAXSUN Intel Arc Pro B60 Dual 48G Turbo

[hui chen]

我有一片MAXSUN Intel Arc Pro B60 Dual 48G Turbo，这个应该怎么使用？能部署啥本地模型？

[terry]

VLLM英特尔版本跑Qwen3.6 27b，LLama.cpp多卡TP不行，SG-Lang配置地狱难度，对新技术支持也慢，对英特尔非常不友好。只有VLLM折腾下双开TP，虽然它是一张显卡，但是AI识别出来是两张。本地模型现在除非能上DeepSeek V4Flahsh，造假15万起步，否则都是用Qwen3.6 27b，没有比它更强大点，编程和Agent都是如此。

[seewoscott]

@terry Gemma4这种多模态开源模型呢？大概能用多大规模参数和量化呢？

[墙内人]

@seewoscott 黄金尺寸Gemma4 31B，但是不如Qwen3.5 36. 27b

[terry]

@墙内人 是的，qwen3.5 3.6 27b是现象级模型，本地最能打。

[[[global:former-user]]]

按照这个趋势，后续的模型估计越来越给力，玩本地AI的估计有福了

[terry]

@刘海彬 后期可能模型就不是27b了，如果是35b，那24G显存就紧张了。

[19-徐福政]

只跑 Qwen3.6 27b Qwen3.6-35B-A3B a660 16g X2 能跑嗎 鹹魚 2000多能買到
或是其他 2000-3000 能買到什麼能跑的嗎?

[terry]

@19-徐福政 便宜货效果都不行，不要折腾。老老实实买24G 3090， 7900xtx，35b a3b跑起来吃力，显存紧张，但是27b时本地之王，吊打35b。

[Peace Love]

趁它還是新的, 趕緊賣掉換卡吧