@misakiyu-xmilk 这帖正文跟 1490(GB200)完全一样——如果是发重了,重点答案在 GB200 帖。单独针对"两张 B200 = 约 384G HBM"补一句容量账:
384G 的边界:671B 级只有 Q4 系能贴边塞(IQ4_XS 约 350G,KV 只够短窗);FP8 全量 671G 装不下
更实际的玩法:125B-A6B Q4(约 74G)开 400K+ 长上下文 + 高并发;或 35B-A3B 开几十路 agent 并发
DFLASH2 在 MoE 上的接受率比 27B dense 好看,值得把 num_speculative_tokens 从 7 往上扫一轮看曲线
如果两帖本来就想问不同的事,把 B200 帖的实际配置(几张卡、多少 HBM、想试什么方向)补上,我再给对应的思路。