你这个MTP的效果不对啊,我矿机5卡,MTP加速都有15%了
张哲
@张哲
-
双AI Pro R9700 32g,Qwen 3.6 27b q4 KM q8 KV Ubuntu24 Hermes agent -
WAN2.1真无限时长视频流,两张图说明一切,先预告着这用的是什么硬件?
-
纠结在JD买魔改还是在自己国家买5090@terry 多谢老大
-
软路由及内网穿透 - 请教各位老大hetzner+tailscale,加一个公网跳板机,安全一点
-
纠结在JD买魔改还是在自己国家买5090@terry 老大,RTX Pro 5000 是上72G 还是48G够了? vllm并行qwen3.6 27b q8 +MTP ,如果并行4-8的话,上下文能到多少?我没有48G卡没法做测试,自己是一台30系5卡矿机,总vram只到44G
-
作为一个ai新手,想尝鲜尝试和学习,打算入一张V100 16G的,但是为啥论坛里完全不聊这张卡?真的是没有生产力?还是性价比太低?