<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[【2×7900XTX】接 3035 的彩蛋：kitchen 里面除了 int8 还有 SOL（1.30×–2.39×），有视频和样张左右对照，看看哪个好？]]></title><description><![CDATA[<p dir="auto">这条线是 <strong><a class="plugin-mentions-user plugin-mentions-a" href="/user/xiongjie-gao" aria-label="Profile: xiongjie-gao">@<bdi>xiongjie-gao</bdi></a></strong> 的：<a href="https://lcz.me/topic/3035">3035</a> 给了判据（S1）、五档验收表、完整条件、还有 kuzuryusen 的 <code>bench.py</code> + <code>run_tp.sh</code>。我照他的条件复现，单卡三档在他 6% 以内。<strong>我只是顺手量了他没测的那一跳：kitchen 里面，int8 → SOL。</strong></p>
<h2>1. 下面部分数据是引用他给我的《补充报告_双卡互联带宽并表》：</h2>
<p dir="auto"><strong>（a）3035 主帖：他的机器、他的验收线</strong>（2×RX 7900 XTX 24G / Xeon E5-2696 v4 / 125 GB / <strong>PCIe 4.0 ×8，非 ×16</strong>；DiT <code>fl2va w4a8</code> 11.7 GB、TE <code>w4a8</code> 26 GB、LoRA <code>turbo_v4_step600</code>）</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>他的档</th>
<th>单卡 s/it（显存）</th>
<th>他的 TP2 s/it</th>
<th>相对单卡</th>
</tr>
</thead>
<tbody>
<tr>
<td>832×480 · 124f · 8 步</td>
<td>11.235</td>
<td>7.618</td>
<td>1.47×</td>
</tr>
<tr>
<td>832×480 · 362f · 8 步</td>
<td>53.7（19.96 GB）</td>
<td>31.9</td>
<td>1.68×</td>
</tr>
<tr>
<td>1344×768 · 362f · 2 步</td>
<td>257.9（23.82 GB）</td>
<td>112.3</td>
<td>2.30×</td>
</tr>
</tbody>
</table>
<p dir="auto">单算子判据（他的 S1）：8192 token，sub_quad <strong>922.5 ms</strong> → kitchen <strong>152.7 ms</strong>；≤200 ms 为健康、&gt;800 ms 为坏。整条链：<strong>34.5 min → 3.3 min（1050%↑）</strong>。</p>
<p dir="auto"><strong>我这台的复现</strong>（不同权重、不同 CPU，只比同档比值）：10.564 / 50.78 / 251.90，显存 23.83 / 20.01 / 23.84 —— <strong>三档都在他 6% 以内</strong>。（这是 11-17 那次复现；§3 是 11-18 的 A/B，两次的 int8 列差 <strong>&lt;0.6%</strong>：10.53 / 50.78 / 250.58。）</p>
<p dir="auto"><strong>（b）他的《补充报告_双卡互联带宽并表》</strong>——他那台 X99-TF（根口 <strong>Gen3 x8</strong>）：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>他实测的</th>
<th>数值</th>
</tr>
</thead>
<tbody>
<tr>
<td>卡到卡 P2P</td>
<td><strong>5.00 GB/s</strong>（Gen3 x8 理论 7.88，效率 63%）；换 x16 板（X99-T8 类）10.30 / 双向 19.36</td>
</tr>
<tr>
<td>TP2 每步通信</td>
<td><strong>450 次 all-reduce</strong>（50 block × 9）、单次 137 MB、<strong>每步 62.0 GB</strong>、持续 <strong>1.90 GB/s = 链路 38%</strong></td>
</tr>
<tr>
<td>真正暴露在关键路径</td>
<td><strong>4.0 s = TP2 单步的 12.2%</strong>（分块 MLP 把约一半藏在 GEMM 后）</td>
</tr>
<tr>
<td>只改互联（5.00→10.30）</td>
<td>32.7 → 30.7（保守）/ 28.7（乐观）s/it = <strong>1.065–1.139×</strong>，代价是换主板</td>
</tr>
<tr>
<td>SOL 单算子（真实打包序列）</td>
<td>S=15,090 / 23,020 / 38,490：int8 0.078 / 0.191 / 0.530 s，SOL <strong>0.022 / 0.049 / 0.128 s</strong> = <strong>3.5–4.1×</strong></td>
</tr>
<tr>
<td><strong>他的折算（最有用的那条）</strong></td>
<td>单步 50 次注意力调用。0.4MP：38,490×50 ≈ 26.5 s = 整步的 <strong>46%</strong> → 1.54×；1MP：占比 <strong>66%</strong> → <strong>2.0×</strong></td>
</tr>
<tr>
<td>并表后的总账</td>
<td>10.5× → <strong>+SOL 11.9×</strong> → +P2P 12.5×（单条 3.3 → 2.90 → 2.76 min）</td>
</tr>
<tr>
<td>判我的错</td>
<td><code>qkv_proj [21504,2688]</code> = 3×56头×128，整块 <code>chunk(2,dim0)</code> 语义断裂；<strong>判据是切分往返 + 单 block <code>max_abs</code>，不是 mean|Δ|</strong></td>
</tr>
</tbody>
</table>
<p dir="auto">**结论是他先给的：真正的大头是注意力，不是卡间带宽。**我这台独立对上：装 <code>p2p_force</code> + 按真实拓扑生成 <code>NCCL_TOPO_FILE</code>，<code>isAllDirectP2p 1</code>、通道 <code>via P2P/IPC</code>、他自己的 bootcheck <code>[OK] KFD 链路 2</code>——<strong>只快 1%</strong>（11.99 → 11.95 s/it）。</p>
<h2>2. 我这组 A/B 的条件（照他的口径，可直接 FORK）</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项</th>
<th>值</th>
</tr>
</thead>
<tbody>
<tr>
<td>机器</td>
<td>8.7：Ryzen 5950X + <strong>2×RX 7900 XTX 24G</strong>（gfx1100，可用上限 23.98 GB），125 GB，<strong>两卡到 CPU 都是 PCIe 4.0 ×8</strong>（<code>cat /sys/bus/pci/devices/*/current_link_width</code>；<strong>端点 x16 不算结论，要看上一级</strong>）</td>
</tr>
<tr>
<td>软件</td>
<td>ComfyUI <strong>0.45.2</strong>，torch <strong>2.15.0+rocm7.14</strong></td>
</tr>
<tr>
<td>权重</td>
<td>DiT <code>Minimax-h3_Singularity_ref2va_v2_Pruned_w4a8.safetensors</code>（12.55 GB）· TE <code>qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors</code>（15.69 GB）· VAE <code>minimax_h3_video_vae_fp16</code> + <code>minimax_h3_audio_vae_fp32</code> · LoRA <code>minimax_h3_dmd_ref2va_8step_turbo_pruned</code>（strength <strong>1.0</strong>）</td>
</tr>
<tr>
<td>工作流</td>
<td>他 <code>bench.py</code> 里那张（文字→视频，<strong>无参考图</strong>）：<code>MiniMaxH3ImageToVideo(prompt,width,height,length)</code> → <code>BasicGuider</code> → <code>BasicScheduler(scheduler=simple, denoise=1.0)</code> → <code>KSamplerSelect(**res_multistep**)</code> → <code>SamplerCustomAdvanced</code> → <code>VAEDecode</code>/<code>VAEDecodeAudio</code> → <code>CreateVideo(fps 24)</code></td>
</tr>
<tr>
<td>提示词</td>
<td>他 <code>bench.py</code> 的默认值：<code>A calm lakeside at sunrise, slow dolly-in, mist over the water, gentle ripples, cinematic soft light.</code></td>
</tr>
<tr>
<td>采样</td>
<td><strong>seed 145</strong>；档位 =（world, W, H, frames, steps）见 §3；每档<strong>冷启动</strong>（重启实例）</td>
</tr>
<tr>
<td>启动参数</td>
<td><code>--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory</code>；TP2 用他 <code>run_tp.sh</code> 的默认（<code>COMFY_TP_MLP_CHUNKS=8</code>、<code>COMFY_TP_AR_MODE=bf16</code>、<code>VAE_SPLIT=0</code>、P2P 补丁开）</td>
</tr>
<tr>
<td><strong>s/it 口径</strong></td>
<td><strong>他的口径</strong>：取第 2…steps−1 步（首步含加载/预热，末步含收尾）；端到端 = 整条工作流墙钟</td>
</tr>
<tr>
<td>跑之前</td>
<td><code>systemctl stop strata-fork.service</code>（否则两卡各占 ~23 GB，探针会 OOM）</td>
</tr>
<tr>
<td>唯一差别</td>
<td>插一个节点（下面）；其余两列完全一样</td>
</tr>
</tbody>
</table>
<pre><code class="language-python"># custom_nodes/sol-attn/__init__.py —— 接在 UNET/LoRA 之后、BasicGuider/BasicScheduler 之前
import functools, comfy.ldm.modules.attention as attn
class MiniMaxSOLAttention:
    @classmethod
    def INPUT_TYPES(cls): return {"required": {"model": ("MODEL",),
            "tau": ("FLOAT", {"default": 1.0, "min": 0.0, "max": 4.0, "step": 0.05})}}
    RETURN_TYPES = ("MODEL",); FUNCTION = "apply"
    def apply(self, model, tau):
        if not attn.comfy_kitchen.sol_attn_is_available(model.load_device):
            raise RuntimeError("sol_attn unavailable")        # 不静默退回
        m = model.clone()
        m.set_model_optimized_attention(functools.partial(attn.attention_comfy_kitchen_sol, tau=tau))
        print(f"[sol] attention backend -&gt; comfy_kitchen sol_attn tau={tau}", flush=True)
        return (m,)
</code></pre>
<p dir="auto"><strong>SOL 不在节点下拉里</strong>（内置只给 pytorch / kitchen int8），只能这样接。日志那行 <code>[sol] attention backend -&gt; comfy_kitchen sol_attn tau=1.0</code> <strong>是生效的判据</strong>。</p>
<pre><code class="language-bash">EXTRA_ARGS="--enable-dynamic-vram --use-ck-attention --mmap-torch-files --disable-smart-memory" \
  bash run_tp.sh &lt;world&gt; 8191 &lt;tag&gt;
python bench_sol.py --ports 8191 [8192] --attn sol …   # = 他的 bench.py + 6 行：把节点 17 插在 2→8/10 之间
# 单算子：python attn_path_bench_87.py   # 56 heads × 128 head_dim，fp16，无 mask，warmup 2 + 10 次取均
</code></pre>
<h2>3. 结果：同档同 seed，只换这一条路径</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>档</th>
<th>kitchen int8：s/it · 端到端 · 峰值</th>
<th>SOL：s/it · 端到端 · 峰值</th>
<th>s/it</th>
</tr>
</thead>
<tbody>
<tr>
<td>1c · 832×480 · 124f · 8</td>
<td>10.53 · 108.2 s · 23.83 GB</td>
<td><strong>8.09</strong> · 87.2 s · 23.83 GB</td>
<td>1.30×</td>
</tr>
<tr>
<td>1c · 832×480 · 362f · 8</td>
<td>50.78 · 455.6 s · 20.01 GB</td>
<td><strong>28.96</strong> · 280.5 s · 23.83 GB</td>
<td>1.75×</td>
</tr>
<tr>
<td>1c · 1344×768 · 362f · 2</td>
<td>250.58 · 596.8 s · 23.84 GB</td>
<td><strong>105.00</strong> · 312.5 s · 23.83 GB</td>
<td><strong>2.39×</strong></td>
</tr>
<tr>
<td>TP2 · 832×480 · 124f · 8</td>
<td>6.55 · 77.6 s · 23.85 GB</td>
<td><strong>5.32</strong> · 68.4 s · 23.74 GB</td>
<td>1.23×</td>
</tr>
<tr>
<td>TP2 · 1344×768 · 362f · 2</td>
<td>132.40 · 367.6 s · 17.60 GB</td>
<td><strong>60.47</strong> · 226.3 s · 17.87 GB</td>
<td>2.19×</td>
</tr>
</tbody>
</table>
<p dir="auto">单算子我这台 3.2–3.7×（16384 token：25.3 vs 93.3 ms）；形态和他的一致：<strong>序列越长赢越多，因为注意力占整步的比在涨</strong>（他的折算 46% → 66%）。</p>
<p dir="auto"><strong>1MP 不用再上双卡</strong>：单卡 SOL 105.0 s/it 比双卡 int8 的 132.4 还快，显存同为 23.83。</p>
<h2>4. 质量：差 ≈ 换一次 seed，不是坏图</h2>
<p dir="auto">同一段 124 帧、同 seed，<code>dumpframes.py</code> 取前 12 帧（每 4 帧 1 张），<code>viddiff.py</code> 算整帧 mean|Δ|、<code>vidstruct.py</code> 算 1/8 缩的结构差：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th></th>
<th>整帧 mean|Δ|</th>
<th>结构(1/8)</th>
<th>RGB</th>
</tr>
</thead>
<tbody>
<tr>
<td>int8 vs SOL（单卡）</td>
<td><strong>30.5</strong></td>
<td>27.4</td>
<td>110/103/95 → 115/101/86；std 67.1 → 62.3</td>
</tr>
<tr>
<td>参照：同配置跑两次</td>
<td><strong>0.00</strong></td>
<td>—</td>
<td>—</td>
</tr>
<tr>
<td>参照：换 seed</td>
<td><strong>34.1</strong></td>
<td>—</td>
<td>—</td>
</tr>
<tr>
<td>参照：坏图（没切权重）</td>
<td><strong>54.8</strong></td>
<td>—</td>
<td>—</td>
</tr>
</tbody>
</table>
<p dir="auto">两边都是正常的湖面日出，SOL 偏亮一点、对比略低；没有 3092 那种划痕/马赛克。左右对照（左 int8、右 SOL，832×480·124f·seed145）：<strong><a href="https://youtu.be/G5YrTN-JZEo" rel="nofollow ugc">https://youtu.be/G5YrTN-JZEo</a></strong></p>
<p dir="auto"><strong>代价</strong>：0.4MP·362f 那档 int8 的 3.8 GB 余量被 SOL 吃掉（20.01 → <strong>23.83</strong>）。24G 卡跑 362 帧档的，用 SOL 要重算余量。</p>
<p dir="auto"><strong>两张样片左右对照（左 = kitchen int8，右 = sol）</strong><br />
<img src="https://upload.lcz.me/uploads/8672a605-f1f9-4911-bdc7-e8f7ed7fc088.png" alt="side_int8_sol.png" class="img-markdown  img-fluid" /></p>
<h2>5. 一处更正（他判的，我接受）</h2>
<p dir="auto">我在 3035 下面交的双卡 <strong>1.61×/1.91× 请当成"能跑、切法待修"</strong>：<code>qkv_proj [21504,2688]</code> = 3×7168 = 3×56头×128，整块 <code>chunk(2,dim0)</code> 会让 rank0 拿到全部 q + 半个 k、rank1 拿到半个 k + 全部 v，attention 语义断裂；正确切法是先 <code>chunk(3,dim0)</code> 分 q/k/v、每段再按头切。<strong>判据是切分往返 + 单 block <code>max_abs</code>，不是 mean|Δ|</strong>——我那个 16.5 恰好落在"换 seed 34.1"和"没切 54.8"之间，正是错误切分会给的形态。单卡三行不受影响；重切后我补测。</p>
<h2>6. 没测的</h2>
<p dir="auto"><code>tau</code> 只用 <strong>1.0</strong>（SOL 是近似注意力，质量结论只在 tau=1.0 成立）；比赛那档 <strong>294f</strong> 没跑过 SOL（跑的是 362f）；只测 8 步蒸馏 LoRA；<strong>一次 seed</strong>——按他 3035 的 F8 该换 seed 再验。</p>
<hr />
<p dir="auto">**谢谢 <a class="plugin-mentions-user plugin-mentions-a" href="/user/xiongjie-gao" aria-label="Profile: xiongjie-gao">@<bdi>xiongjie-gao</bdi></a>。**判据、验收表、条件、连我这里的错，他都是直接给的。我这边只是把 int8 → SOL 这一跳量到了五档。</p>
]]></description><link>https://lcz.me/topic/3189</link><generator>RSS for Node</generator><lastBuildDate>Thu, 19 Nov 2026 00:16:33 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/3189.rss" rel="self" type="application/rss+xml"/><pubDate>Wed, 18 Nov 2026 17:30:28 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 【2×7900XTX】接 3035 的彩蛋：kitchen 里面除了 int8 还有 SOL（1.30×–2.39×），有视频和样张左右对照，看看哪个好？ on Wed, 18 Nov 2026 17:53:28 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/xiongjie-gao" aria-label="Profile: xiongjie-gao">@<bdi>xiongjie-gao</bdi></a> <a href="/post/34469">说</a>:</p>
<p dir="auto">论证翔实，昨天我是通过抽桢校验的方式肉眼比对同桢的剑心打架图<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f602.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--joy" style="height:1.4em;width:auto;vertical-align:middle" title=":joy:" alt="😂" /><br />
与其说未分高下，实际真象更接近两个都是渣渣。<br />
你这个案例对比更直观，虽然AI都说Sol生成质量略差，但可能在部分指定效果上（如你跑的风景），肉眼感观更倾向于Sol的交付效果。<br />
所以这事就不仅仅是牺牲一点质量换速度，而是在部分场景中可以完全代替并有全面提升。<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f44d.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--+1" style="height:1.4em;width:auto;vertical-align:middle" title=":+1:" alt="👍" /> <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f44d.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--+1" style="height:1.4em;width:auto;vertical-align:middle" title=":+1:" alt="👍" /></p>
</blockquote>
<p dir="auto">是的，可能部分场景SOL表现更出色。不管怎样，这条值得一试的</p>
]]></description><link>https://lcz.me/post/34471</link><guid isPermaLink="true">https://lcz.me/post/34471</guid><dc:creator><![CDATA[Enigma]]></dc:creator><pubDate>Wed, 18 Nov 2026 17:53:28 GMT</pubDate></item><item><title><![CDATA[Reply to 【2×7900XTX】接 3035 的彩蛋：kitchen 里面除了 int8 还有 SOL（1.30×–2.39×），有视频和样张左右对照，看看哪个好？ on Wed, 18 Nov 2026 17:42:36 GMT]]></title><description><![CDATA[<p dir="auto">论证翔实，昨天我是通过抽桢校验的方式肉眼比对同桢的剑心打架图<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f602.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--joy" style="height:1.4em;width:auto;vertical-align:middle" title=":joy:" alt="😂" /><br />
与其说未分高下，实际真象更接近两个都是渣渣。<br />
你这个案例对比更直观，虽然AI都说Sol生成质量略差，但可能在部分指定效果上（如你跑的风景），肉眼感观更倾向于Sol的交付效果。<br />
所以这事就不仅仅是牺牲一点质量换速度，而是在部分场景中可以完全代替并有全面提升。<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f44d.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--+1" style="height:1.4em;width:auto;vertical-align:middle" title=":+1:" alt="👍" /> <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f44d.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--+1" style="height:1.4em;width:auto;vertical-align:middle" title=":+1:" alt="👍" /></p>
]]></description><link>https://lcz.me/post/34469</link><guid isPermaLink="true">https://lcz.me/post/34469</guid><dc:creator><![CDATA[xiongjie gao]]></dc:creator><pubDate>Wed, 18 Nov 2026 17:42:36 GMT</pubDate></item></channel></rss>