抡锤者

你这个MTP的效果不对啊，我矿机5卡，MTP加速都有15%了

这用的是什么硬件？

@terry 多谢老大

@Tony-Wang

hetzner+tailscale,加一个公网跳板机，安全一点

@terry 老大，RTX Pro 5000 是上72G 还是48G够了？ vllm并行qwen3.6 27b q8 +MTP ,如果并行4-8的话，上下文能到多少？我没有48G卡没法做测试，自己是一台30系5卡矿机，总vram只到44G

@hotpigwk 说:

如果我只是用来跑Hermes的基础大模型，用来分析解析任务的话，是不是问题不大！

垃圾卡，别买