<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待]]></title><description><![CDATA[<p dir="auto">配置：M5 Ultra，36 核 CPU／80 核 GPU，512 GB 统一内存，2TB SSD。</p>
<p dir="auto">之前四台 DGX Spark 跑 DeepSeek V4.1 Flash 1017 的数据在这里：</p>
<ul>
<li><a href="https://lcz.me/topic/2946">4 DGX Spark DeepSeek V4.1 Flash 1017 版本详细测试数据</a></li>
<li><a href="https://lcz.me/topic/2948">4 DGX Spark 跑 DeepSeek V4.1 Flash 实测</a></li>
</ul>
<p dir="auto">机器到货后，我会用同一模型在 M5 Ultra 512GB 上做同类对照，敬请期待。</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/a89f3baf-add8-475a-b4bb-6d0d0b1a626c.PNG" alt="IMG_7217.PNG" class="img-markdown  img-fluid" /></p>
]]></description><link>https://lcz.me/topic/3067</link><generator>RSS for Node</generator><lastBuildDate>Thu, 19 Nov 2026 00:24:25 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/3067.rss" rel="self" type="application/rss+xml"/><pubDate>Sat, 14 Nov 2026 13:36:06 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 12:54:46 GMT]]></title><description><![CDATA[<p dir="auto">交作业：<a href="https://lcz.me/topic/3184">https://lcz.me/topic/3184</a></p>
]]></description><link>https://lcz.me/post/34411</link><guid isPermaLink="true">https://lcz.me/post/34411</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Wed, 18 Nov 2026 12:54:46 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 08:23:15 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> 是的，需要构思创意，其实技术难度不高，就是创意。</p>
]]></description><link>https://lcz.me/post/34355</link><guid isPermaLink="true">https://lcz.me/post/34355</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Wed, 18 Nov 2026 08:23:15 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 08:15:59 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> ComfyUI频道？我等好久了</p>
]]></description><link>https://lcz.me/post/34352</link><guid isPermaLink="true">https://lcz.me/post/34352</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Wed, 18 Nov 2026 08:15:59 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 08:15:14 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> 不着急，我什么时候都能水视频，现在在筹备新频道，完全躺平。</p>
]]></description><link>https://lcz.me/post/34351</link><guid isPermaLink="true">https://lcz.me/post/34351</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Wed, 18 Nov 2026 08:15:14 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 08:14:47 GMT]]></title><description><![CDATA[<p dir="auto">老特一句话，赶紧测试<br />
过程中的截图，目前在：512K × 8 并发，DSpark 关闭。每路约 50 万输入 token<br />
<img src="https://upload.lcz.me/uploads/dec251a4-f771-405d-b9c6-746d8d93a6b9.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /><br />
发张图，说明我在干活 <a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a></p>
]]></description><link>https://lcz.me/post/34350</link><guid isPermaLink="true">https://lcz.me/post/34350</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Wed, 18 Nov 2026 08:14:47 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Wed, 18 Nov 2026 02:00:10 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> 不是烂尾了，是mlx-serve和omlx两个推理引擎出的结果，差别很大，前者号称是C++替换Pytorch，性能很高，但是实际性能还不如olmx，而且tps的计算方法都有问题，我尽快把长文本和能耗用omlx测下；</p>
]]></description><link>https://lcz.me/post/34248</link><guid isPermaLink="true">https://lcz.me/post/34248</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Wed, 18 Nov 2026 02:00:10 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 19:35:01 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/cc-tgo" aria-label="Profile: cc-tgo">@<bdi>cc-tgo</bdi></a> 你在你的测试帖子中@他不就行了，让 <a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> 和你测试同一个流程。我正好再水一个视频。</p>
]]></description><link>https://lcz.me/post/34206</link><guid isPermaLink="true">https://lcz.me/post/34206</guid><dc:creator><![CDATA[terry]]></dc:creator><pubDate>Tue, 17 Nov 2026 19:35:01 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 12:49:55 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/%E7%96%BC%E5%93%A5%E8%9B%8B" aria-label="Profile: 疼哥蛋">@<bdi>疼哥蛋</bdi></a> 瓶颈就是雷电五了</p>
]]></description><link>https://lcz.me/post/34149</link><guid isPermaLink="true">https://lcz.me/post/34149</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 12:49:55 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 12:06:14 GMT]]></title><description><![CDATA[<p dir="auto">好奇下 Mac 4台 M5 Ultra 512GB 能有啥效果，DS 4.1 原版能上 80 t/S 么</p>
]]></description><link>https://lcz.me/post/34143</link><guid isPermaLink="true">https://lcz.me/post/34143</guid><dc:creator><![CDATA[疼哥蛋]]></dc:creator><pubDate>Tue, 17 Nov 2026 12:06:14 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 06:47:13 GMT]]></title><description><![CDATA[<p dir="auto">mlx平台不熟悉，让我先熟悉，后期给大家一个完整的测评</p>
]]></description><link>https://lcz.me/post/34080</link><guid isPermaLink="true">https://lcz.me/post/34080</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 06:47:13 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 06:30:24 GMT]]></title><description><![CDATA[<p dir="auto">速度应该和功耗有个比较。<br />
两者的功耗比，辛苦有空的时候做个比较。</p>
]]></description><link>https://lcz.me/post/34077</link><guid isPermaLink="true">https://lcz.me/post/34077</guid><dc:creator><![CDATA[williamlouis]]></dc:creator><pubDate>Tue, 17 Nov 2026 06:30:24 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 06:19:46 GMT]]></title><description><![CDATA[<p dir="auto">看了两个512GB的评测，都是超长上下文prefill速度反而大于相对长的上下文（超短上下文不作数）。</p>
<p dir="auto">感觉mlx还有很大的优化空间。</p>
]]></description><link>https://lcz.me/post/34074</link><guid isPermaLink="true">https://lcz.me/post/34074</guid><dc:creator><![CDATA[kop wang]]></dc:creator><pubDate>Tue, 17 Nov 2026 06:19:46 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 05:55:23 GMT]]></title><description><![CDATA[<p dir="auto">冲着安静就得加分，贵是有道理的，双7900XTX又在嗷嗷叫了~~</p>
]]></description><link>https://lcz.me/post/34064</link><guid isPermaLink="true">https://lcz.me/post/34064</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Tue, 17 Nov 2026 05:55:23 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 04:15:43 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/benton-yi" aria-label="Profile: benton-yi">@<bdi>benton-yi</bdi></a>  那就对上了~</p>
]]></description><link>https://lcz.me/post/34054</link><guid isPermaLink="true">https://lcz.me/post/34054</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 04:15:43 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:40:35 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> <a href="/post/33983">说</a>:</p>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/benton-yi" aria-label="Profile: benton-yi">@<bdi>benton-yi</bdi></a>  问下Spark tp4测试的脚手架和数据是采用项目：<a href="https://github.com/FujitsuPolycom/sparkring" rel="nofollow ugc">https://github.com/FujitsuPolycom/sparkring</a> 中的llm-inference-bench？</p>
</blockquote>
<p dir="auto"><img src="https://upload.lcz.me/uploads/7ca76045-f858-4dc0-bd53-34d459aa5db5.jpeg" alt="image.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto">没错，就是这个。</p>
]]></description><link>https://lcz.me/post/34037</link><guid isPermaLink="true">https://lcz.me/post/34037</guid><dc:creator><![CDATA[benton yi]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:40:35 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:22:41 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> 算力机最优雅的打开方式就是锁在温湿合适，隔音良好的小黑屋里供远程调用。<br />
老哥，稳<img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/1f44d.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--+1" style="height:1.4em;width:auto;vertical-align:middle" title=":+1:" alt="👍" /></p>
]]></description><link>https://lcz.me/post/34033</link><guid isPermaLink="true">https://lcz.me/post/34033</guid><dc:creator><![CDATA[xiongjie gao]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:22:41 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:09:12 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/xiongjie-gao" aria-label="Profile: xiongjie-gao">@<bdi>xiongjie-gao</bdi></a>  是真的安静~~，我旁边的4090+4080sx2吵得怀疑人生，已经被我关进小黑屋了</p>
]]></description><link>https://lcz.me/post/34027</link><guid isPermaLink="true">https://lcz.me/post/34027</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:09:12 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:06:02 GMT]]></title><description><![CDATA[<blockquote>
<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> <a href="/post/34021">说</a>:</p>
<p dir="auto">单台 MacStudio的单流解码总吞吐达到四台 Spark 的 93.4%；并发增加至 16 路时，该比例降至 52.8%</p>
</blockquote>
<p dir="auto">就凭这个Mac卖得贵有贵的底气</p>
]]></description><link>https://lcz.me/post/34024</link><guid isPermaLink="true">https://lcz.me/post/34024</guid><dc:creator><![CDATA[xiongjie gao]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:06:02 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:02:30 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/terry" aria-label="Profile: terry">@<bdi>terry</bdi></a> <a class="plugin-mentions-user plugin-mentions-a" href="/user/benton-yi" aria-label="Profile: benton-yi">@<bdi>benton-yi</bdi></a>  先给一版，怕兄弟们等着着急</p>
]]></description><link>https://lcz.me/post/34022</link><guid isPermaLink="true">https://lcz.me/post/34022</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:02:30 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 03:01:56 GMT]]></title><description><![CDATA[<h1>单台 Mac MacStudio与四台 DGX Spark 推理性能测试记录</h1>
<blockquote>
<p dir="auto">[!abstract] 结果摘要<br />
按本次提供的两轮中位数，单台 MacStudio的单流解码总吞吐达到四台 Spark 的 93.4%；并发增加至 16 路时，该比例降至 52.8%。冷态 scout prefill 的端到端有效输入吞吐达到四台 Spark 的 67.9%～86.4%。MacStudio结果仍待独立验收确认。</p>
</blockquote>
<h2>一. 数据来源与验收状态</h2>
<p dir="auto">本文根据用户提供的实测数据整理，未重新运行测试，也未核验原始日志。</p>
<ul>
<li>参考原项目：<a href="https://github.com/FujitsuPolycom/sparkring" rel="nofollow ugc">https://github.com/FujitsuPolycom/sparkring</a></li>
<li>两套部署的数据均为两轮测试的中位数。</li>
<li>MacStudio使用 <code>ddalcu/mlx-serve</code>，版本为 <code>26.11.2-metric01</code>。</li>
<li>该版本基于官方 <code>26.11.2</code>，加入连续 <code>usage</code> 输出补丁。</li>
</ul>
<h2>二. 测试环境</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项目</th>
<th>单台 MacStudio</th>
<th>四台 Spark（SparkRing）</th>
</tr>
</thead>
<tbody>
<tr>
<td>硬件</td>
<td>单台 Mac Studio，M5 Ultra，512 GiB</td>
<td>四台 DGX Spark</td>
</tr>
<tr>
<td>部署拓扑</td>
<td>单机</td>
<td>TP4 环形互联；TP4 指四路张量并行</td>
</tr>
<tr>
<td>模型</td>
<td>1017 的 MLX <code>oQ4e-mtp</code>，权重 432.033GB</td>
<td>官方 1017 FP8/MXFP4 权重</td>
</tr>
<tr>
<td>推理引擎</td>
<td><code>ddalcu/mlx-serve</code>，<code>26.11.2-metric01</code></td>
<td>vLLM／SparkRing，具体版本未提供</td>
</tr>
<tr>
<td>引擎改动</td>
<td>官方 <code>26.11.2</code> 加入连续 <code>usage</code> 输出补丁</td>
<td>未提供</td>
</tr>
<tr>
<td>测试工具</td>
<td>固定 <code>bench 0.7.6</code></td>
<td>同版 <code>bench 0.7.6</code></td>
</tr>
<tr>
<td>测试方式</td>
<td>持续解码＋integrated scout</td>
<td>同类持续解码＋scout</td>
</tr>
<tr>
<td>统计方式</td>
<td>两轮中位数</td>
<td>两轮中位数</td>
</tr>
</tbody>
</table>
<blockquote>
<p dir="auto">[!warning] 对比边界<br />
本次比较的是两套完整部署，不是同权重、同量化、同引擎的硬件对照实验。模型量化、推理引擎和部署拓扑均有差异，因此不能将性能差异全部归因于硬件。模型名称中的 <code>mtp</code> 不足以证明测试时启用了多 token 预测；原始材料未提供相关运行参数。</p>
</blockquote>
<h2>三. 测试指标与口径</h2>
<h3>1. 解码总吞吐</h3>
<p dir="auto">解码是逐步生成输出 token 的阶段。本文按原始材料记录所有并发流的<strong>输出总吞吐</strong>，单位为输出 token/s，而非每条流的吞吐。</p>
<p dir="auto">测试覆盖 1、8、16 路并发。原始材料未提供解码统计窗口、输出长度和总吞吐的具体聚合公式，因此不补写这些细节。</p>
<h3>2. 冷态 scout prefill</h3>
<p dir="auto">Prefill 是处理输入 token、建立后续生成所需状态的阶段。本次指标采用客户端首字时间计算：</p>
<pre><code class="language-text">有效输入吞吐（输入 token/s）＝输入 token 数 ÷ 客户端首字时间（秒）
</code></pre>
<p dir="auto">客户端首字时间包含首 token 和请求传输开销。因此，该指标是<strong>端到端有效输入吞吐</strong>，不是纯引擎 prefill 吞吐。</p>
<p dir="auto">测试覆盖 8K、64K、128K 输入长度。原始材料没有说明 K 的精确换算方式，也没有给出“冷态”的缓存清理和预热规则。</p>
<h3>3. 相对性能</h3>
<pre><code class="language-text">MacStudio相对比例＝MacStudio吞吐 ÷ 四台 Spark 吞吐 × 100%
四台 Spark 倍数＝四台 Spark 吞吐 ÷ MacStudio吞吐
</code></pre>
<p dir="auto">下表的比例按一位小数呈现，倍数按两位小数呈现。</p>
<h2>四. 解码测试数据</h2>
<p dir="auto">单位：输出 token/s。各吞吐值均为两轮中位数。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th style="text-align:right">并发流数</th>
<th style="text-align:right">单台 MacStudio</th>
<th style="text-align:right">四台 Spark</th>
<th style="text-align:right">MacStudio达到四台 Spark 的比例</th>
<th style="text-align:right">四台 Spark 相对 MacStudio的倍数</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:right">1</td>
<td style="text-align:right">57.16</td>
<td style="text-align:right">61.20</td>
<td style="text-align:right">93.4%</td>
<td style="text-align:right">1.07 倍</td>
</tr>
<tr>
<td style="text-align:right">8</td>
<td style="text-align:right">122.21</td>
<td style="text-align:right">194.90</td>
<td style="text-align:right">62.7%</td>
<td style="text-align:right">1.60 倍</td>
</tr>
<tr>
<td style="text-align:right">16</td>
<td style="text-align:right">145.38</td>
<td style="text-align:right">275.16</td>
<td style="text-align:right">52.8%</td>
<td style="text-align:right">1.89 倍</td>
</tr>
</tbody>
</table>
<p dir="auto">单流时，两套部署的解码总吞吐接近。并发升高后，四台 Spark 的总吞吐优势扩大：8 路约为 MacStudio的 <strong>1.60 倍</strong>，16 路约为 <strong>1.89 倍</strong>。</p>
<p dir="auto">这些数据描述总吞吐，不直接代表单请求延迟或并发流之间的公平性。原始材料未提供逐流吞吐和延迟分布。</p>
<h2>五. 冷态 scout prefill 测试数据</h2>
<p dir="auto">单位：输入 token/s。各吞吐值均为两轮中位数，按输入 token 数除以客户端首字时间计算。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th style="text-align:right">输入长度</th>
<th style="text-align:right">单台 MacStudio</th>
<th style="text-align:right">四台 Spark</th>
<th style="text-align:right">MacStudio达到四台 Spark 的比例</th>
<th style="text-align:right">四台 Spark 相对 MacStudio的倍数</th>
</tr>
</thead>
<tbody>
<tr>
<td style="text-align:right">8K</td>
<td style="text-align:right">2,883</td>
<td style="text-align:right">4,248</td>
<td style="text-align:right">67.9%</td>
<td style="text-align:right">1.47 倍</td>
</tr>
<tr>
<td style="text-align:right">64K</td>
<td style="text-align:right">3,559.5</td>
<td style="text-align:right">4,279</td>
<td style="text-align:right">83.2%</td>
<td style="text-align:right">1.20 倍</td>
</tr>
<tr>
<td style="text-align:right">128K</td>
<td style="text-align:right">3,504</td>
<td style="text-align:right">4,056.5</td>
<td style="text-align:right">86.4%</td>
<td style="text-align:right">1.16 倍</td>
</tr>
</tbody>
</table>
<p dir="auto">四台 Spark 在三个输入长度下均领先。输入长度由 8K 增加至 128K 时，MacStudio的相对比例从 <strong>67.9%</strong> 增加至 <strong>86.4%</strong>，两套部署的相对差距缩小。</p>
<p dir="auto">两套部署在 128K 下的有效输入吞吐均低于 64K。现有数据不足以判断具体原因，也不足以区分引擎处理、请求传输和其他首字时间开销的贡献。</p>
<h2>六. 结论与独立验收所需信息</h2>
<p dir="auto">本次数据支持以下结论：</p>
<ul>
<li><strong>单流解码接近</strong>。MacStudio为 57.16 输出 token/s，四台 Spark 为 61.20 输出 token/s。</li>
<li><strong>并发解码差距扩大</strong>。16 路时，四台 Spark 的总吞吐约为 MacStudio的 1.89 倍。</li>
<li><strong>长输入下的相对差距缩小</strong>。128K 冷态 scout 测试中，MacStudio达到四台 Spark 的 86.4%。</li>
</ul>
<p dir="auto">上述结论仅适用于本次部署和测试口径。两轮中位数不能提供稳定的波动范围，也不能替代独立验收。</p>
<p dir="auto">独立验收应补齐以下信息：</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项目</th>
<th>需要补齐的内容</th>
</tr>
</thead>
<tbody>
<tr>
<td>硬件与系统</td>
<td>完整硬件配置、操作系统版本、互联配置及测试时运行状态</td>
</tr>
<tr>
<td>模型</td>
<td>完整模型标识、权重版本或校验值、量化配置</td>
</tr>
<tr>
<td>引擎</td>
<td>两端精确版本或提交号、MacStudio补丁 diff、启动参数</td>
</tr>
<tr>
<td>推理设置</td>
<td>是否启用多 token 预测或推测解码，以及相关参数</td>
</tr>
<tr>
<td>测试命令</td>
<td><code>bench 0.7.6</code> 完整命令、输入样本、输出长度和并发设置</td>
</tr>
<tr>
<td>测量口径</td>
<td>解码统计窗口与聚合方式、首字时间起止点、冷态缓存与预热规则</td>
</tr>
<tr>
<td>原始证据</td>
<td>两轮各自的结果、请求级日志和连续 <code>usage</code> 输出</td>
</tr>
<tr>
<td>验收结果</td>
<td>独立复跑记录，以及是否复现本次趋势和数值范围</td>
</tr>
</tbody>
</table>
]]></description><link>https://lcz.me/post/34021</link><guid isPermaLink="true">https://lcz.me/post/34021</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 03:01:56 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Tue, 17 Nov 2026 00:58:33 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/benton-yi" aria-label="Profile: benton-yi">@<bdi>benton-yi</bdi></a>  问下Spark tp4测试的脚手架和数据是采用项目：<a href="https://github.com/FujitsuPolycom/sparkring" rel="nofollow ugc">https://github.com/FujitsuPolycom/sparkring</a> 中的llm-inference-bench？目前mlx-serve 这边的 llmprobe 统计口径好像不太一样，不懂是我的问题还是测试工具的问题，我在研究下～</p>
]]></description><link>https://lcz.me/post/33983</link><guid isPermaLink="true">https://lcz.me/post/33983</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Tue, 17 Nov 2026 00:58:33 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Mon, 16 Nov 2026 17:01:54 GMT]]></title><description><![CDATA[<p dir="auto"><a class="plugin-mentions-user plugin-mentions-a" href="/user/ivan-lan" aria-label="Profile: ivan-lan">@<bdi>ivan-lan</bdi></a> 边测试边播片了？</p>
]]></description><link>https://lcz.me/post/33921</link><guid isPermaLink="true">https://lcz.me/post/33921</guid><dc:creator><![CDATA[williamlouis]]></dc:creator><pubDate>Mon, 16 Nov 2026 17:01:54 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Mon, 16 Nov 2026 15:25:06 GMT]]></title><description><![CDATA[<p dir="auto">小板凳已坐起~等待测试报告~</p>
]]></description><link>https://lcz.me/post/33880</link><guid isPermaLink="true">https://lcz.me/post/33880</guid><dc:creator><![CDATA[懒人烘培]]></dc:creator><pubDate>Mon, 16 Nov 2026 15:25:06 GMT</pubDate></item><item><title><![CDATA[Reply to 明天到货！单台 M5 Ultra 512GB 硬刚四台 DGX Spark，DeepSeek V4.1 Flash 1017 正面对照，结果敬请期待 on Mon, 16 Nov 2026 14:53:31 GMT]]></title><description><![CDATA[<p dir="auto">别催，再搞了</p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/527dc931-32f0-44de-a3fb-9717de7e3e6c.jpeg" alt="CleanShot 2026-11-16 at 22.51.26@2x.jpeg" class="img-markdown  img-fluid" /></p>
<p dir="auto"><img src="https://upload.lcz.me/uploads/ac86e443-b68f-498d-9069-7685730464bf.jpeg" alt="CleanShot 2026-11-16 at 22.52.31@2x.jpeg" class="img-markdown  img-fluid" /></p>
]]></description><link>https://lcz.me/post/33869</link><guid isPermaLink="true">https://lcz.me/post/33869</guid><dc:creator><![CDATA[ivan lan]]></dc:creator><pubDate>Mon, 16 Nov 2026 14:53:31 GMT</pubDate></item></channel></rss>