<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化]]></title><description><![CDATA[<p dir="auto"><img src="https://upload.lcz.me/uploads/54454722-70fb-4886-aa3a-69d5c133db47.jpeg" alt="6290cffd-99a2-4682-970e-27fec97adbd5-image.jpeg" class=" img-fluid img-markdown" /></p>
<blockquote>
<p dir="auto">硬件环境：<br />
• 采样节点（Node-292）：4× NVIDIA Tesla T10 16GB (Turing/sm75), PCIe P2P, 无 NVLink, ComfyUI 0.30.0, PyTorch 2.13.0+cu130, Ray 2.58.0, xfuser 0.4.4, Raylight (Ulysses=4, Ring=1, FSDP=true)<br />
• 解码节点（Node-241）：NVIDIA GeForce RTX 3080 Ti 12GB (独立 ComfyUI 0.34.0, CUDA_VISIBLE_DEVICES=0 物理隔离)<br />
• 网络链路：千兆/2.5G 局域网（实测带宽约 2.35Gbps）</p>
<p dir="auto">业务场景：MiniMax H3 视频生成模型 REF2VA 工作流（416×736 分辨率、124 帧、24fps、Turbo LoRA 6 步去噪）。</p>
</blockquote>
<hr />
<h2>0. 核心结论与实测收益</h2>
<p dir="auto">在多卡高负载视频生成场景中，瓶颈往往不在于单卡算力，而在于<strong>重载扩散采样与高开销 VAE 视频/音频解码串行争抢资源</strong>。</p>
<p dir="auto">通过构建“<strong>双机阶段级异步流水线</strong>”（4×T10 专职纯扩散去噪，RTX 3080 Ti 专职 INT8 视频 VAE + 音频 VAE + MP4 封装），实测数据如下：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th style="text-align:left">指标维度</th>
<th style="text-align:center">传统单机全部串行</th>
<th style="text-align:center">双机阶段流水线</th>
<th style="text-align:center">收益变动</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:left"><strong>4×T10 采样+保存 Latent</strong></td>
<td style="text-align:center">~140.45 秒</td>
<td style="text-align:center">~140.45 秒</td>
<td style="text-align:center">专注去噪，无上下文打断</td>
</tr>
<tr>
<td style="text-align:left"><strong>跨机 Latent 传输 (4.3MB)</strong></td>
<td style="text-align:center">0 秒 (本地)</td>
<td style="text-align:center">1.0~1.2 秒</td>
<td style="text-align:center">局域网开销极低</td>
</tr>
<tr>
<td style="text-align:left"><strong>3080 Ti INT8 VAE + 封装</strong></td>
<td style="text-align:center">串行计入关键路径</td>
<td style="text-align:center"><strong>完全隐藏于下一任务</strong></td>
<td style="text-align:center">边际耗时被掩盖</td>
</tr>
<tr>
<td style="text-align:left"><strong>连续 2 条视频 Makespan</strong></td>
<td style="text-align:center">305.32 秒</td>
<td style="text-align:center"><strong>292.17 秒</strong></td>
<td style="text-align:center"><strong>总耗时降低 4.31%</strong></td>
</tr>
<tr>
<td style="text-align:left"><strong>长队列稳态吞吐</strong></td>
<td style="text-align:center">23.58 条/小时</td>
<td style="text-align:center"><strong>25.61 条/小时</strong></td>
<td style="text-align:center"><strong>吞吐量提升 +8.59%</strong></td>
</tr>
</tbody>
</table>
<pre><code class="language-text">时间轴 ─────────────────────────────────────────────────────────────&gt;

Node-292 (4×T10)   [ 第 1 条采样 140s ][ 第 2 条采样 140s ][ 第 3 条采样 140s ]
Node-241 (3080 Ti)                    [ 第 1 条 VAE 11s ][ 第 2 条 VAE 11s ]
</code></pre>
<hr />
<h2>1. 为什么不是“把 3080 Ti 强行并入五卡 Tensor Parallel”？</h2>
<p dir="auto">很多机友第一反应是“能不能跨机器把五张卡拉成一个集群”？在实操中这是典型的反模式：</p>
<ol>
<li><strong>计算架构异构</strong>：Tesla T10 是 Turing 架构 (sm75)，3080 Ti 是 Ampere 架构 (sm86)，底层 CUDA Kernel 与算力特性不一致；</li>
<li><strong>跨机通讯开销致命</strong>：跨机器做模型并行（TP/USP）需要极高频的 AllReduce 同步，没有专用 100Gb+ RoCE/InfiniBand 网络必定引起严重通信死锁与性能断崖；</li>
<li><strong>阶段解耦更高效</strong>：MiniMax H3 的输出是包含视频与音频的 <code>NestedTensor</code>。416×736 分辨率的 latent 仅仅约 <strong>4.3MB</strong>。传输 4.3MB 只需要 1 秒，而跑一次 VAE 解码需要 10~13 秒。<strong>用阶段级流水线剥离 VAE，可以让昂贵的 4 卡采样集群 100% 跑满，彻底释放吞吐潜力。</strong></li>
</ol>
<hr />
<h2>2. 核心架构设计与工程落地</h2>
<h3>① 双流 Latent 结构化导出与原子落盘</h3>
<p dir="auto">MiniMax H3 同时包含视频与音频两组 Latent。自定义落地节点负责：</p>
<ul>
<li>校验并导出视频 Latent（<code>shape: (1, 24, ...)</code>）与音频 Latent（<code>shape: (1, 32, 2, ...)</code>）；</li>
<li>严格进行 <code>NaN/Inf</code> 数值自检；</li>
<li>先写 <code>.part</code> 临时文件，校验成功后原子重命名为 <code>.h3latent</code>，并同步生成 <code>.sha256</code> 校验指纹文件。</li>
</ul>
<p dir="auto">采样工作流尾部改写为：</p>
<pre><code class="language-text">XFuserSamplerCustomAdvanced 
    └── Save MiniMax H3 AV Latent (输出 4.3MB 双流文件，剥离原生解码)
</code></pre>
<h3>② 解码机（Node-241）隔离 API 服务</h3>
<p dir="auto">解码端通过独立 Python 虚拟环境拉起专用 ComfyUI 实例，严格实施物理设备隔离：</p>
<pre><code class="language-bash"># 启动解码专用实例（监听指定端口，白名单加载 handoff 节点）
CUDA_VISIBLE_DEVICES=0 ./venv/bin/python main.py \
  --listen 0.0.0.0 --port 8192 \
  --disable-all-custom-nodes \
  --whitelist-custom-nodes h3_latent_handoff \
  --dont-print-server
</code></pre>
<p dir="auto">检查 <code>/proc/$pid/environ</code> 确认环境干净，杜绝与其他计算卡产生资源争抢。</p>
<h3>③ 视频 VAE 精度选型：INT8 ConvRot vs FP16</h3>
<p dir="auto">在 3080 Ti 上针对官方 VAE 进行了严格的 A/B 对比：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th style="text-align:left">VAE 选型</th>
<th style="text-align:center">尾段纯解码耗时</th>
<th style="text-align:center">PSNR 峰值信噪比</th>
<th style="text-align:center">均方误差 (MAE)</th>
<th style="text-align:left">综合判定</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:left"><strong>FP16 官方标准 VAE</strong></td>
<td style="text-align:center">13.57 秒</td>
<td style="text-align:center">41.95 dB</td>
<td style="text-align:center">1.39</td>
<td style="text-align:left">基准质量，耗时略长</td>
</tr>
<tr>
<td style="text-align:left"><strong>INT8 ConvRot 官方 VAE</strong></td>
<td style="text-align:center"><strong>10.37 秒</strong></td>
<td style="text-align:center">41.50 dB</td>
<td style="text-align:center">1.52</td>
<td style="text-align:left"><strong>速度快 23.6%，画质完全无肉眼可辨损失</strong></td>
</tr>
</tbody>
</table>
<p dir="auto">INT8 ConvRot 在 124 帧全流程抽检中有限值表现稳定，未出现历史社区反馈过的黑屏或溢出异常，被选定为生产基线。</p>
<h3>④ 自动化监控流水线（Watcher Daemon）</h3>
<p dir="auto">后台监控守护脚本监听采样目录，一旦捕获到 <code>.h3latent</code> 与 <code>.sha256</code> 同步就绪：</p>
<ol>
<li>自动计算本地 Hash，发起跨机安全传输；</li>
<li>远端重验 SHA-256 无误后原子落盘；</li>
<li>远程触发 8192 端口 API 执行解码与音视频合成；</li>
<li>产出结构化审计回执 <code>*.pipeline.json</code>。</li>
</ol>
<hr />
<h2>3. 深入对比：4 步 Turbo LoRA 是否具备生产可用性？</h2>
<p dir="auto">社区中 Turbo LoRA 标称支持 4 步去噪，我们保持同 Seed、同提示词进行了严谨步数 A/B：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th style="text-align:center">采样步数</th>
<th style="text-align:center">4×T10 采样保存</th>
<th style="text-align:center">含远端完整耗时</th>
<th style="text-align:left">画质与时序表现</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:center"><strong>6 步（基准）</strong></td>
<td style="text-align:center">140.92 秒</td>
<td style="text-align:center">154.38 秒</td>
<td style="text-align:left">服装细节高度一致，动作自然平滑，<strong>生产默认首选</strong></td>
</tr>
<tr>
<td style="text-align:center"><strong>4 步（激进）</strong></td>
<td style="text-align:center">95.13 秒</td>
<td style="text-align:center">106.22 秒</td>
<td style="text-align:left">速度提升 32.5%，但抽帧发现角色服装发生明显漂移（如红色裙装漂移为背带裤）</td>
</tr>
</tbody>
</table>
<p dir="auto"><strong>结论</strong>：4 步仅适合前期快速挑分镜、低精度批量预览；生产交付仍坚决锁死 6 步。</p>
<hr />
<h2>4. 失败探索与避坑反模式</h2>
<ol>
<li><strong>反模式一：盲目启用 SAGE_FP16</strong>：<br />
在 Turing 架构上强制指定 <code>SAGE_FP16</code>，首个 denoiser 步即抛出 <code>AttributeError: module 'sageattention' has no attribute 'sageattn_qk_int8_pv_fp16_cuda'</code>。Turing (sm75) 并不支持该 kernel，切忌盲从高版本特性。</li>
<li><strong>反模式二：执念于升级万兆网络（10GbE）</strong>：<br />
实测 4.3MB 的 Latent 走普通千兆局域网只需要 1 秒。相对于 140 秒的扩散采样，将网络从 1 秒压到 0.2 秒对总体吞吐影响甚至不足 0.5%，切勿在非关键路径上浪费工程精力。</li>
</ol>
]]></description><link>https://lcz.me/topic/1883</link><generator>RSS for Node</generator><lastBuildDate>Fri, 25 Sep 2026 19:57:38 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/1883.rss" rel="self" type="application/rss+xml"/><pubDate>Tue, 22 Sep 2026 05:57:55 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Wed, 23 Sep 2026 14:46:47 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/abaalei" aria-label="Profile: abaalei">@<bdi>abaalei</bdi></a> <a href="/post/20035">said</a>:</p>
<p dir="auto">G292 Z20 技嘉的服务器</p>
</blockquote>
<p dir="auto">這樣下去 不到三年就會有一個小型的家庭算力中心了 <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f920.png?v=ecb7c61779a" class="not-responsive emoji emoji-android emoji--face_with_cowboy_hat" style="height:23px;width:auto;vertical-align:middle" title=":face_with_cowboy_hat:" alt="🤠" /></p>
]]></description><link>https://lcz.me/post/20328</link><guid isPermaLink="true">https://lcz.me/post/20328</guid><dc:creator><![CDATA[kos or]]></dc:creator><pubDate>Wed, 23 Sep 2026 14:46:47 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Wed, 23 Sep 2026 14:04:08 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/queen-laura" aria-label="Profile: Queen-Laura">@<bdi>Queen-Laura</bdi></a> a6000 哈哈 等大佬出结果啦</p>
]]></description><link>https://lcz.me/post/20320</link><guid isPermaLink="true">https://lcz.me/post/20320</guid><dc:creator><![CDATA[abaalei]]></dc:creator><pubDate>Wed, 23 Sep 2026 14:04:08 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Wed, 23 Sep 2026 14:15:11 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> <a href="https://www.bilibili.com/video/BV1dVhW6zEoH/" rel="nofollow ugc">https://www.bilibili.com/video/BV1dVhW6zEoH/</a> 我只是一个把服务器放在床上抱着睡的折腾男罢了<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f622.png?v=ecb7c61779a" class="not-responsive emoji emoji-android emoji--cry" style="height:23px;width:auto;vertical-align:middle" title=":cry:" alt="😢" /> <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f622.png?v=ecb7c61779a" class="not-responsive emoji emoji-android emoji--cry" style="height:23px;width:auto;vertical-align:middle" title=":cry:" alt="😢" /> <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f622.png?v=ecb7c61779a" class="not-responsive emoji emoji-android emoji--cry" style="height:23px;width:auto;vertical-align:middle" title=":cry:" alt="😢" /> <img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f622.png?v=ecb7c61779a" class="not-responsive emoji emoji-android emoji--cry" style="height:23px;width:auto;vertical-align:middle" title=":cry:" alt="😢" /> 就跟老特你说的一样，现在有hermes 有deepseek，人类只需要负责物理操作，剩下的，动动嘴皮子喊ai去搞就是了，我这几天都没怎么动过啥，就是看到有好的项目就扔给ai分析是否适合自己用，适合就跑调优，不适合就放着</p>
<p dir="auto">服务器 3500<br />
处理器 450<br />
内存 350<em>8<br />
显卡 1000</em>4<br />
<img src="https://upload.lcz.me/uploads/04902862-36aa-4430-a23e-957f9ba2310b.jpg" alt="8fdc0aa6-1a26-40cc-91a7-37f73190586e-aee0dba1c5ca95984eb8c35ccf248e3.jpg" class=" img-fluid img-markdown" /><br />
<img src="https://upload.lcz.me/uploads/cc41402a-6b58-4325-84ae-7956af4abca0.jpg" alt="da80ff40-e838-43ff-be11-9ee90797957e-55cb642690dbd94595b946b2eb4c99b.jpg" class=" img-fluid img-markdown" /></p>
<p dir="auto">目前我都在想卖一张7900xtx，再买4张T10了<br />
不管是comfyui，还是LLM，4张T10都能跟2张7900xtx打55开</p>
]]></description><link>https://lcz.me/post/20319</link><guid isPermaLink="true">https://lcz.me/post/20319</guid><dc:creator><![CDATA[abaalei]]></dc:creator><pubDate>Wed, 23 Sep 2026 14:15:11 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 22:03:06 GMT]]></title><description><![CDATA[<p dir="auto">单卡 A6000 跑视频不如 3090，先看一个硬指标：A6000 与 3090 同为 GA102（CUDA 10752 vs 10496、Tensor 336 vs 328），但 A6000 显存带宽 768 GB/s、TDP 300W；3090 是 936 GB/s、350W。视频 diffusion 每步去噪基本是<strong>显存带宽受限</strong>（每步把 DiT/UNet 权重过一遍），A6000 带宽低约 18%、功耗墙也低，所以只要模型塞得进 24G，3090 单卡反而更快。A6000 的价值在 48G、ECC、成对 NVLink 和涡轮散热，不在单卡速度。</p>
<p dir="auto">四卡三条路线：</p>
<ul>
<li>拆 4 个独立任务：吞吐最高、单任务延迟不变。ComfyUI 多实例 + 每实例绑一张卡（CUDA_VISIBLE_DEVICES），用队列填。</li>
<li>四卡同一任务：H3 是 DiT 视频，适合<strong>序列/上下文并行</strong>（xDiT、USP/ring-attention 这一类），不是直接 TP。A6000 是成对 NVLink，实际拓扑是 2 对 × 2 卡 P2P，跨对仍走 PCIe；4 卡齐上要么有 NVSwitch（A6000 没有），要么接受跨对带宽。</li>
<li>raylight 偏「多实例编排」，四卡加速和独立任务通常要按任务粒度二选一，别指望一套配置全占。</li>
</ul>
<p dir="auto">INT8 选型没问题：sm_86 没有 FP8，别上 FP8/FP4 权重。另外 300W 功耗墙在长视频里会掉频，先确认 nvidia-smi -pl 没被设低。建议先按「每卡一个常驻实例 + 共享队列」跑一周，再决定要不要为单个长视频上序列并行。</p>
]]></description><link>https://lcz.me/post/20145</link><guid isPermaLink="true">https://lcz.me/post/20145</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Tue, 22 Sep 2026 22:03:06 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 20:44:15 GMT]]></title><description><![CDATA[<p dir="auto">好帖，值得好好学习。最近我正在研究怎么优化公司的四块 A6000 跑 comfyUI H3生视频任务呢，raylight  四卡加速和拆分四卡做独立任务我都试过，各有优劣，还没还没琢磨出一个最优方案出来。我目前还是所有模型都跑在一张卡上，毕竟 A6000 显存有 48G. Diffusion model 选的 INT8 的.搞不懂为什么 A6000 单卡跑视频的速度还不如同任务同工作流和参数设置的 3090。</p>
]]></description><link>https://lcz.me/post/20133</link><guid isPermaLink="true">https://lcz.me/post/20133</guid><dc:creator><![CDATA[Queen Laura]]></dc:creator><pubDate>Tue, 22 Sep 2026 20:44:15 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 19:55:21 GMT]]></title><description><![CDATA[<p dir="auto">我弟你是企业采购吗，你的设备超出了正常人的使用范畴。这玩意光给它装起来得有多麻烦，放家里得专门的机房。</p>
]]></description><link>https://lcz.me/post/20132</link><guid isPermaLink="true">https://lcz.me/post/20132</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Tue, 22 Sep 2026 19:55:21 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 08:19:18 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/misakiyu-xmilk" aria-label="Profile: Misakiyu-Xmilk">@<bdi>Misakiyu-Xmilk</bdi></a> G292 Z20 技嘉的服务器</p>
]]></description><link>https://lcz.me/post/20035</link><guid isPermaLink="true">https://lcz.me/post/20035</guid><dc:creator><![CDATA[abaalei]]></dc:creator><pubDate>Tue, 22 Sep 2026 08:19:18 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 07:55:54 GMT]]></title><description><![CDATA[<p dir="auto">老哥您Tesla T10是用甚麼板子裝到4張P2P的? 能不能讓我照抄啊? 我最近想試試3張跑文字模型 還在規劃 純雲<br />
不管說不說 先感謝了</p>
]]></description><link>https://lcz.me/post/20024</link><guid isPermaLink="true">https://lcz.me/post/20024</guid><dc:creator><![CDATA[Misakiyu Xmilk]]></dc:creator><pubDate>Tue, 22 Sep 2026 07:55:54 GMT</pubDate></item><item><title><![CDATA[Reply to 4×Tesla T10 + RTX 3080 Ti 双机跑 MiniMax H3：拆分 VAE 解码的流水线吞吐优化 on Tue, 22 Sep 2026 07:02:46 GMT]]></title><description><![CDATA[<p dir="auto">双机阶段级异步流水线思路是对的：扩散采样和 VAE 解码的瓶颈类型不同（前者偏算力/显存，后者是大规模卷积加显存带宽），拆到两个节点确实能减少串行。</p>
<p dir="auto">几个值得量化的点：</p>
<ol>
<li>2.35Gbps 约等于 294MB/s。416×736×124 帧的张量一次传输多少要算清楚；若传的是解码后的帧，单次可能几百 MB，传输就占 1s 以上，流水线气泡是否真被隐藏要看 stage 时间比。</li>
<li>3080Ti 12G 解 124 帧要留意分块/tile 解码，别让解码侧先 OOM，必要时按帧段切分。</li>
<li>2.5G 链路建议直连或独立网段加 jumbo frame，避免和采样侧抢带宽。</li>
<li>吞吐最好同时给端到端 wall time 和稳态帧率，只看稳态会高估。</li>
</ol>
]]></description><link>https://lcz.me/post/20003</link><guid isPermaLink="true">https://lcz.me/post/20003</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Tue, 22 Sep 2026 07:02:46 GMT</pubDate></item></channel></rss>