<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0"><channel><title><![CDATA[Arc Pro B70 32GB 在 Linux 上跑 XeStrata：Qwen3.8 Flash-Next 实测汇总，以及和 RTX PRO 4000 的对比]]></title><description><![CDATA[<p dir="auto"><strong>XeStrata 是什么</strong>：<a href="https://github.com/Niko1221/Strata" rel="nofollow ugc">Strata</a> 是一个在普通 PC 上跑 Qwen3.8 Flash-Next（约 125B 参数的 MoE 模型）的本地推理引擎：显存放不下的专家留在内存里由 CPU 计算，配合 MTP 推测解码，大幅降低了对显存的要求，16 GB 这类小显存显卡也能运行。上游支持的硬件很广：NVIDIA RTX 20–50 系列，AMD Radeon（RX 7000、9000 系列，AI PRO R9700）和 Strix Halo，Apple Silicon，以及 Linux 上的 Intel Arc（SYCL 移植版）。<a href="https://github.com/MistVVK/XeStrata" rel="nofollow ugc">XeStrata</a> 是它的分支，把 GPU 代码整体从 CUDA 改写成 SYCL 和 Level Zero，主要针对 Intel Arc 优化（XMX、oneMKL），同一套代码也能编译给 AMD 和 NVIDIA 显卡用；模型、安装方式和 API 与 Strata 基本一致。它分 free 和 contrib 两种编译方式，contrib 会用上 Intel 的 oneMKL。</p>
<p dir="auto">这两周在一台 Ubuntu 主机上，用 Intel Arc Pro B70 和 XeStrata 跑 Qwen3.8 Flash-Next，测了不同内存容量、不同量化和长上下文下的速度，还做了一轮 IQ3_S 和 4 比特的回答质量对比，最后和同一台机器上的 RTX PRO 4000 做了对照。数据都是自己机器上的实测，每项一般只跑一次，仅供参考。</p>
<h2>先说结论</h2>
<ul>
<li><strong>B70 + XeStrata 可以稳定使用</strong>：128 GB 内存下，IQ3_XXS 短问答约 93 tok/s，agent 每轮首 token 约 1.3 s，比同一张卡在 Windows 上快不少（主要是内存大了）。</li>
<li><strong>内存容量影响最大</strong>：32 GB 下专家放不进内存；128 GB 下全部常驻，生成快约 20–45%，读提示词快约 45%。</li>
<li><strong>4 比特不值得</strong>：B70 跑 4 比特时，生成速度只有 IQ3_XXS 的 70% 左右；而在我们的质量测试里，4 比特在 agent 长任务上没有比 IQ3_S 更好。</li>
<li><strong>和 RTX PRO 4000（24 GB）插主槽比</strong>：跑同一个 IQ3_S，PRO 短问答快 38%，agent 生成快 63%，首 token 差不多。</li>
<li><strong>我们的看法</strong>：大模型用途上，PRO 4000 更快、更省心。B70 的优势在生图和 32 GB 显存，详见第 8 节。</li>
</ul>
<h2>1. 硬件平台</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项目</th>
<th>配置</th>
</tr>
</thead>
<tbody>
<tr>
<td>显卡</td>
<td>ASRock Creator Arc Pro B70 32GB（Intel Arc Pro B70，BMG-G31）</td>
</tr>
<tr>
<td>显卡接法</td>
<td>CPU 直连主槽 PCIe 5.0 x16，ReBAR 32G，默认功耗上限 275 W</td>
</tr>
<tr>
<td>CPU</td>
<td>Intel i5-13600K（6P + 8E）</td>
</tr>
<tr>
<td>主板</td>
<td>MSI MAG B760M MORTAR WIFI DDR4</td>
</tr>
<tr>
<td>内存</td>
<td>4×32GB DDR4 3200，共 128 GB（另用 <code>mem=64G</code> 内核参数测了 64 GB）</td>
</tr>
<tr>
<td>硬盘</td>
<td>Lexar NM1090 PRO 2TB（模型和系统都在这块盘上）</td>
</tr>
<tr>
<td>电源</td>
<td>850 W SFX</td>
</tr>
</tbody>
</table>
<p dir="auto">注：32 GB 那组数据是升级前测的，当时是另一颗低功耗 CPU 加 32 GB 内存，下文单独标注。</p>
<h2>2. 软件环境（最终状态）</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>项目</th>
<th>版本</th>
</tr>
</thead>
<tbody>
<tr>
<td>系统</td>
<td>Ubuntu 26.04，内核 7.0.0-43（xe 驱动）</td>
</tr>
<tr>
<td>显卡固件</td>
<td>GuC 70.58.0，linux-firmware 20260319</td>
</tr>
<tr>
<td>Intel 用户态驱动</td>
<td>compute-runtime 26.40.40196、IGC 2.42.14（kobuk-team PPA）</td>
</tr>
<tr>
<td>XeStrata</td>
<td>main 721afe51（0.2.8-1），contrib 编译（oneMKL + XMX）</td>
</tr>
<tr>
<td>编译器</td>
<td>intel/llvm 7.2.0（XeStrata 的 setup 自动编译）</td>
</tr>
<tr>
<td>模型</td>
<td>Qwen3.8 Flash-Next：GSQ-RCO IQ3_XXS、IQ3_S（ISTA-DASLab）；unsloth UD-Q4_K_XL</td>
</tr>
<tr>
<td>推理设置</td>
<td>128K 上下文，int8 KV，开启 MTP 推测解码，单路</td>
</tr>
</tbody>
</table>
<h2>3. XeStrata 部署流程</h2>
<ol>
<li><strong>装驱动</strong>：Ubuntu 自带的 compute-runtime 太旧（XeStrata 要求 Level Zero 的 build 号不低于 38646），改用 kobuk-team PPA 的版本。装好后用 <code>sycl-ls</code> 确认 B70 显示为 <code>level_zero:gpu</code>。</li>
<li><strong>放开锁内存限制</strong>：XeStrata 会锁定一部分内存页（pinned memory），默认的 <code>ulimit -l</code>（8 MiB）太小。在 <code>/etc/security/limits.d/</code> 下把用户的 memlock 设为 unlimited，重新登录后生效。</li>
<li><strong>拉源码，建 Python 环境</strong>，然后运行：<pre><code class="language-bash">python setup.py --license contrib --model IQ3_XXS --context 131072 --vision no --no-start --yes --data-dir &lt;数据目录&gt;
</code></pre>
<ul>
<li>第一次运行会编译 intel/llvm，我们用了约半小时，以后会复用。</li>
<li><code>--license contrib</code> 才会用上 oneMKL 和 XMX。启动日志里能看到 "prompt matrix products on oneMath (oneMKL)" 就说明生效了。</li>
<li>模型直接从 Hugging Face 下载，setup 会校验 SHA-256。</li>
</ul>
</li>
<li><strong>setup 会按内存大小自动生成配置</strong>，主要区别如下：</li>
</ol>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>内存</th>
<th>专家放在哪</th>
<th>关键参数</th>
</tr>
</thead>
<tbody>
<tr>
<td>32 GB</td>
<td>显存放约 50–60%，其余靠系统文件缓存或 SSD</td>
<td>32 GB 跑 IQ3_XXS 时加 <code>--resident-experts</code>；IQ3_S 时改为 <code>--mmap-experts</code>（低内存模式）</td>
</tr>
<tr>
<td>64 GB</td>
<td>显存加内存基本能放下 IQ3_XXS</td>
<td><code>--pool-workers 9</code>（9 个 CPU 专家线程）</td>
</tr>
<tr>
<td>128 GB</td>
<td>全部常驻内存，n-gram 表也放内存</td>
<td>另加 <code>--ple-io ram</code>，以及 <code>--kv-resident 32768</code>（KV streaming）</td>
</tr>
</tbody>
</table>
<ol start="5">
<li>用 <code>serve/server.py --engine strata --config &lt;配置&gt;</code> 启动，默认只监听 127.0.0.1，接口兼容 OpenAI 和 Anthropic。</li>
</ol>
<p dir="auto"><strong>如果机器上同时装了 NVIDIA 驱动</strong>：XeStrata 的 setup 检测到 <code>nvidia-smi</code> 时，会去编译 CUDA 版的 intel/llvm，既浪费时间也用不上。我们的做法是只在运行 setup 时，往 PATH 前面放一个直接返回失败的假 <code>nvidia-smi</code>，把它屏蔽掉。另外，用不同的 <code>XDG_*</code> 目录把 XeStrata 和上游 Strata 的配置隔离开。</p>
<h2>4. 测试方法</h2>
<ul>
<li><strong>速度</strong>：XeStrata 自带的 <code>strata_bench</code>，开思考模式（reasoning_effort = medium），每项 3 轮取中位数。
<ul>
<li>短问答：约 44 个 token 的提问，生成 100 个 token。</li>
<li>4K / 16K 提示词：全新的长提示词，测读提示词的速度（prefill）。</li>
<li>agent：带系统提示词和 4 个工具定义，连续 5 轮，每轮追加约 1500 词的文件内容，最后上下文约 11K token。记录每轮的首 token 时间和生成速度。</li>
<li>2 路并发：两个请求同时发出，统计合计的 tok/s。</li>
</ul>
</li>
<li><strong>质量</strong>：自己出的 18 道问答题（环境调试、运维、编程各 6 题，部分有陷阱），每题 2 轮；另有 4 个用 opencode 完成的 agent 长任务（写一个带测试的多文件小项目、只读巡检本机、从约 7 万 token 的日志里找故障、一串精确的哈希计算），每题 3 轮。主观题打乱顺序后盲评，代码题在断网容器里实际运行判分。</li>
</ul>
<h2>5. 测试结果</h2>
<h3>5.1 内存容量的影响（IQ3_XXS）</h3>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">Windows（32 GB）¹</th>
<th style="text-align:right">32 GB ²</th>
<th style="text-align:right">64 GB</th>
<th style="text-align:right"><strong>128 GB</strong></th>
</tr>
</thead>
<tbody>
<tr>
<td>短问答生成 tok/s</td>
<td style="text-align:right">50.2</td>
<td style="text-align:right">65.0</td>
<td style="text-align:right">88.1</td>
<td style="text-align:right"><strong>93.4</strong></td>
</tr>
<tr>
<td>4K 提示词 tok/s</td>
<td style="text-align:right">—</td>
<td style="text-align:right">1214</td>
<td style="text-align:right">1692</td>
<td style="text-align:right"><strong>1768</strong></td>
</tr>
<tr>
<td>16K 提示词 tok/s</td>
<td style="text-align:right">1843</td>
<td style="text-align:right">1669</td>
<td style="text-align:right">2352</td>
<td style="text-align:right"><strong>2456</strong></td>
</tr>
<tr>
<td>agent 每轮首 token（s）</td>
<td style="text-align:right">1.9</td>
<td style="text-align:right">1.91</td>
<td style="text-align:right">1.33</td>
<td style="text-align:right"><strong>1.28</strong></td>
</tr>
<tr>
<td>agent 生成 tok/s</td>
<td style="text-align:right">60.5</td>
<td style="text-align:right">75.6</td>
<td style="text-align:right">90.7</td>
<td style="text-align:right"><strong>89.1</strong></td>
</tr>
<tr>
<td>2 路并发合计 tok/s</td>
<td style="text-align:right">—</td>
<td style="text-align:right">—</td>
<td style="text-align:right">71.8</td>
<td style="text-align:right"><strong>71.0</strong></td>
</tr>
</tbody>
</table>
<p dir="auto">¹ 同一张卡此前在 Windows 上的成绩：R7 9700X，32 GB DDR5，XeStrata xe0.2.2-1。平台不同，仅作参考。<br />
² 升级前的平台（低功耗 CPU，32 GB DDR4），内核 7.0.0-42，驱动 26.35。</p>
<p dir="auto">64 GB 到 128 GB 差别很小，说明 IQ3_XXS 有 64 GB 基本就够了。32 GB 时专家放不下，速度下降很明显。</p>
<h3>5.2 量化档位（128 GB）</h3>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">IQ3_XXS</th>
<th style="text-align:right">IQ3_S</th>
<th style="text-align:right">UD-Q4_K_XL</th>
<th style="text-align:right">UD-Q4_K_XL（64 GB）</th>
</tr>
</thead>
<tbody>
<tr>
<td>模型大小</td>
<td style="text-align:right">约 76 GB</td>
<td style="text-align:right">约 84 GB</td>
<td style="text-align:right">约 111 GB</td>
<td style="text-align:right">同左</td>
</tr>
<tr>
<td>短问答生成 tok/s</td>
<td style="text-align:right">93.4</td>
<td style="text-align:right">84.1</td>
<td style="text-align:right">67.0</td>
<td style="text-align:right">46.9</td>
</tr>
<tr>
<td>4K 提示词 tok/s</td>
<td style="text-align:right">1768</td>
<td style="text-align:right">1680</td>
<td style="text-align:right">1399</td>
<td style="text-align:right">425</td>
</tr>
<tr>
<td>16K 提示词 tok/s</td>
<td style="text-align:right">2456</td>
<td style="text-align:right">2399</td>
<td style="text-align:right">2269</td>
<td style="text-align:right">775</td>
</tr>
<tr>
<td>agent 每轮首 token（s）</td>
<td style="text-align:right">1.28</td>
<td style="text-align:right">1.34</td>
<td style="text-align:right">1.65</td>
<td style="text-align:right"><strong>4.96</strong></td>
</tr>
<tr>
<td>agent 生成 tok/s</td>
<td style="text-align:right">89.1</td>
<td style="text-align:right">71.2</td>
<td style="text-align:right">61.9</td>
<td style="text-align:right">43.7</td>
</tr>
<tr>
<td>2 路并发合计 tok/s</td>
<td style="text-align:right">71.0</td>
<td style="text-align:right">51.2</td>
<td style="text-align:right">53.1</td>
<td style="text-align:right">32.6</td>
</tr>
</tbody>
</table>
<ul>
<li>IQ3_S 读提示词几乎不慢，生成慢 10–20%。</li>
<li>4 比特在 128 GB 下还能用；64 GB 下专家要从 SSD 读，首 token 接近 5 秒，基本不可用。</li>
<li>参考：升级前 32 GB 跑 IQ3_S（低内存模式），4K 提示词只有 575 tok/s，agent 首 token 4.0 s，agent 生成 45.4 tok/s。</li>
</ul>
<h3>5.3 回答质量：IQ3_S 和 4 比特（B70 + XeStrata）</h3>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">IQ3_S</th>
<th style="text-align:right">UD-Q4_K_XL</th>
</tr>
</thead>
<tbody>
<tr>
<td>问答 18 题，2 轮平均（满分 36）</td>
<td style="text-align:right">24.5</td>
<td style="text-align:right">29.5</td>
</tr>
<tr>
<td>opencode 长任务，3 轮平均（满分 18）</td>
<td style="text-align:right">18.0</td>
<td style="text-align:right">17.7</td>
</tr>
<tr>
<td>陷阱题踩中次数</td>
<td style="text-align:right">1</td>
<td style="text-align:right">0</td>
</tr>
<tr>
<td>端到端生成 tok/s（中位数）</td>
<td style="text-align:right">90.6</td>
<td style="text-align:right">67.3</td>
</tr>
</tbody>
</table>
<ul>
<li>4 比特在问答题上多 5 分，主要领先在运维类细节。但每组的差距和同一模型两轮之间的波动差不多大。</li>
<li>opencode 长任务两者基本都是满分，4 比特还漏了一次关键日志行。说明这些任务对两者都不难，拉不开差距。</li>
<li>两个模型有共同的弱点：比如 4 份清理脚本里有 3 份在 <code>set -e</code> 下写了 <code>(( x++ ))</code>，计数器为 0 时脚本直接退出。说明这是模型本身的盲区，不是量化造成的。</li>
<li><strong>结论：IQ3_S 够用，为 4 比特多花的内存和速度代价不值得。</strong></li>
</ul>
<h3>5.4 XeStrata 和上游 Strata（32 GB 阶段，同卡）</h3>
<p dir="auto">用 XeStrata 自带的对比功能（<code>setup.py --bench --original-strata v0.2.8</code>）：同一个模型文件，两个引擎轮流跑，各项取 2 次的中位数。上游用的是它的 SYCL 移植版，在容器里编译。这组数字的测法和上面的表格不同，只能用来比较两个引擎。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">XeStrata 0.2.8-1</th>
<th style="text-align:right">上游 Strata v0.2.8 SYCL</th>
<th style="text-align:right">差别</th>
</tr>
</thead>
<tbody>
<tr>
<td>1K 提示词 tok/s</td>
<td style="text-align:right">1094</td>
<td style="text-align:right">122</td>
<td style="text-align:right">×8.9</td>
</tr>
<tr>
<td>32K 提示词 tok/s</td>
<td style="text-align:right">1896</td>
<td style="text-align:right">1098</td>
<td style="text-align:right">×1.7</td>
</tr>
<tr>
<td>64K 提示词 tok/s</td>
<td style="text-align:right">1887</td>
<td style="text-align:right">1297</td>
<td style="text-align:right">×1.5</td>
</tr>
<tr>
<td>1K 上下文生成 tok/s</td>
<td style="text-align:right">87.9</td>
<td style="text-align:right">51.6</td>
<td style="text-align:right">+70%</td>
</tr>
<tr>
<td>64K 上下文生成 tok/s</td>
<td style="text-align:right">90.4</td>
<td style="text-align:right">46.0</td>
<td style="text-align:right">+97%</td>
</tr>
<tr>
<td>对话续轮等待（ms）</td>
<td style="text-align:right">159–173</td>
<td style="text-align:right">342–568</td>
<td style="text-align:right">少 50–70%</td>
</tr>
</tbody>
</table>
<p dir="auto">在 Intel 卡上，XeStrata 比上游的 SYCL 版快得多，生成大约快 70–100%，短提示词的读入速度更是差了一个数量级。另外，XeStrata 的 tag 版 xe0.2.2-1 和 main（0.2.8-1）也比较过，差距在 2–11%，基本在噪声范围内。</p>
<h2>6. 踩过的坑（已解决或已绕过）</h2>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>问题</th>
<th>现象</th>
<th>处理</th>
</tr>
</thead>
<tbody>
<tr>
<td>驱动版本太旧</td>
<td>系统自带的 compute-runtime 低于 XeStrata 的要求</td>
<td>改用 kobuk-team PPA</td>
</tr>
<tr>
<td>锁内存上限</td>
<td>默认 <code>ulimit -l</code> 只有 8 MiB，setup 会给出提示</td>
<td>在 limits.d 里把 memlock 设为 unlimited</td>
</tr>
<tr>
<td>同机有 NVIDIA 驱动</td>
<td>setup 会去编译 CUDA 版的 intel/llvm</td>
<td>运行 setup 时用一个假的 <code>nvidia-smi</code> 把它屏蔽</td>
</tr>
<tr>
<td>PCIe 链路显示 x1</td>
<td>sysfs 里 B70 显示 2.5 GT/s x1</td>
<td>这是卡内部桥接芯片的显示；看卡的上游端口，实际是 PCIe 5.0 x16，实测约 40 GB/s</td>
</tr>
<tr>
<td>空闲时风扇狂转</td>
<td>GPU 空闲进入省电状态后温度读数不再更新，固件按冻结的高温一直让风扇高转（IGCIT #1574；B70 没有 fan_control 的 late-binding 固件）</td>
<td>写了一个小服务：功耗低于 40 W、温度不低于 50°C 且 60 秒没变化时，跑 1 秒小计算唤醒 GPU，温度刷新后风扇就降下来了</td>
</tr>
<tr>
<td>短问答第一轮偏慢</td>
<td>冷启动第一轮只有约 47 tok/s，导致中位数范围很宽</td>
<td>对比时注意预热；看范围窄的指标（提示词速度）更可靠</td>
</tr>
<tr>
<td>4 比特放不进 64 GB</td>
<td>首 token 接近 5 秒</td>
<td>用 IQ3 档，或者上 128 GB</td>
</tr>
<tr>
<td>电感啸叫</td>
<td>满载时啸叫明显</td>
<td>没处理（可以考虑降低功耗上限，未测）</td>
</tr>
</tbody>
</table>
<h2>7. 仍然存在的问题</h2>
<ul>
<li><strong>XeStrata #42（最需要注意）</strong>：Level Zero 注册宿主内存时没有真正锁住页面。系统整理内存（compaction）或换出（swap）把页面挪走后，会整段重新映射，导致 bcs 引擎 CAT 错误甚至卡死。内存越紧越容易出现，我们在 64 GB 加双卡负载时遇到过。修复在作者还没公开的开发分支里。临时办法是设 <code>STRATA_NO_ARENA_THP=1</code>，并把 <code>vm.compact_unevictable_allowed</code> 设为 0（我们没有长期采用，没有充分验证）。</li>
<li><strong>XeStrata 更新停了</strong>：main 从 10-30 起没有新提交，上面这个问题不知道什么时候能修。</li>
<li><strong>日志显示 "pinned 0.00 GiB"</strong>：常驻专家显示锁定 0 GiB，<code>ulimit -l</code> 已经是 unlimited，原因没查清，可能和 #42 有关。</li>
<li><strong>功耗墙</strong>：重型负载（主要是 ComfyUI 跑大视频）时一直顶着 275 W 上限。我们换回旧内核对比过，结果一样，和内核无关。</li>
<li><strong>风扇问题只能绕过</strong>：唤醒方案能用，但需要一个常驻服务，要等官方固件修复。</li>
<li><strong>生态</strong>：XeStrata 是个人维护的分支；ComfyUI 侧的 Intel 优化（llm-scaler / Omni）要自己编译 oneDNN、内核扩展等，出了问题基本只能自己排查。</li>
</ul>
<h2>8. 和 RTX PRO 4000（24 GB，主槽）对比，以及我们的意见</h2>
<p dir="auto">同一台机器、同为 128 GB 内存、同一个测试脚本。PRO 4000 用上游 Strata v0.2.10（CUDA 预编译版），功耗上限 145 W，插在同一个 PCIe 5.0 x16 主槽。</p>
<table class="table table-bordered table-striped">
<thead>
<tr>
<th>指标</th>
<th style="text-align:right">B70 IQ3_XXS</th>
<th style="text-align:right">PRO IQ3_XXS</th>
<th style="text-align:right">B70 IQ3_S</th>
<th style="text-align:right">PRO IQ3_S</th>
<th style="text-align:right">B70 Q4</th>
<th style="text-align:right">PRO Q4</th>
</tr>
</thead>
<tbody>
<tr>
<td>短问答生成 tok/s</td>
<td style="text-align:right">93.4</td>
<td style="text-align:right"><strong>132.4</strong></td>
<td style="text-align:right">84.1</td>
<td style="text-align:right"><strong>116.1</strong></td>
<td style="text-align:right"><strong>67.0</strong></td>
<td style="text-align:right">53.0</td>
</tr>
<tr>
<td>4K 提示词 tok/s</td>
<td style="text-align:right">1768</td>
<td style="text-align:right"><strong>2354</strong></td>
<td style="text-align:right">1680</td>
<td style="text-align:right"><strong>2200</strong></td>
<td style="text-align:right"><strong>1399</strong></td>
<td style="text-align:right">1346</td>
</tr>
<tr>
<td>16K 提示词 tok/s</td>
<td style="text-align:right">2456</td>
<td style="text-align:right"><strong>2923</strong></td>
<td style="text-align:right">2399</td>
<td style="text-align:right"><strong>2891</strong></td>
<td style="text-align:right">2269</td>
<td style="text-align:right"><strong>2846</strong></td>
</tr>
<tr>
<td>agent 每轮首 token（s）</td>
<td style="text-align:right">1.28</td>
<td style="text-align:right"><strong>1.23</strong></td>
<td style="text-align:right"><strong>1.34</strong></td>
<td style="text-align:right">1.36</td>
<td style="text-align:right"><strong>1.65</strong></td>
<td style="text-align:right">1.81</td>
</tr>
<tr>
<td>agent 生成 tok/s</td>
<td style="text-align:right">89.1</td>
<td style="text-align:right"><strong>127.3</strong></td>
<td style="text-align:right">71.2</td>
<td style="text-align:right"><strong>115.7</strong></td>
<td style="text-align:right"><strong>61.9</strong></td>
<td style="text-align:right">58.7</td>
</tr>
<tr>
<td>2 路并发合计 tok/s</td>
<td style="text-align:right">71.0</td>
<td style="text-align:right"><strong>97.2</strong></td>
<td style="text-align:right">51.2</td>
<td style="text-align:right"><strong>84.4</strong></td>
<td style="text-align:right"><strong>53.1</strong></td>
<td style="text-align:right">45.5</td>
</tr>
</tbody>
</table>
<ul>
<li>IQ3 档（日常最实用）：PRO 4000 生成快 40–60%，读提示词快 15–30%，首 token 两者差不多。</li>
<li>4 比特：B70 的 32 GB 显存能多放专家，生成反而比 PRO 快约 25%。但前面的质量测试说明，4 比特对实际使用没有明显帮助。</li>
<li>生图生视频（ComfyUI）方面，B70 在 SDXL、FLUX.1 这类生图项目上快 1.2–1.6 倍；FLUX.2、LTX-2.5、Wan 14B 这些重型项目则是 PRO 更快。另外 B70 的 32 GB 显存对视频有余量优势。</li>
</ul>
<p dir="auto"><strong>我们的意见</strong></p>
<ul>
<li><strong>主要跑本地大模型、agent</strong>：选 PRO 4000 这类 NVIDIA 卡。速度快，生态成熟，没有 #42 和风扇这类问题，功耗也只有一半。</li>
<li><strong>主要生图，看重 32 GB 显存，愿意自己折腾</strong>：B70 有价格和显存优势，在 Linux 上把 Intel 的优化栈部署好之后，生图速度确实不错。</li>
<li><strong>想用 B70 跑大模型</strong>：内存至少 64 GB，最好 128 GB；量化用 IQ3_XXS 或 IQ3_S；避免内存吃紧（不要和其他大内存程序挤在一起），以减少触发 #42 的机会。</li>
<li>我们这台机器以大模型用途为主。如果以后有第二张卡的需求，可能会等价格合适的时候再买一张 RTX PRO 4000。</li>
</ul>
<h2>9. 说明与局限</h2>
<ul>
<li>每个配置基本只跑了一次（3 轮取中位数），单项差距在 5% 以内的可以视为噪声。</li>
<li>32 GB 那组数据的平台（CPU、内核和驱动版本）和后面不同，只能看大致趋势。</li>
<li>质量测试只有我们自己出的题，由一个人盲评，样本小，结论只适用于这类运维和编程场景。</li>
<li>PRO 4000 用的是上游 Strata，B70 用的是 XeStrata，引擎版本不同，比的是“各自最好的软件栈”。</li>
</ul>
<h2>后续</h2>
<p dir="auto">接下来还会单独分享 B70 在 ComfyUI 上生图生视频的测试，覆盖目前主流的生图和生视频模型，包括在 Linux 上部署 Intel 优化栈的过程，以及和 RTX PRO 4000 的对比。</p>
]]></description><link>https://lcz.me/topic/3120</link><generator>RSS for Node</generator><lastBuildDate>Thu, 19 Nov 2026 00:14:25 GMT</lastBuildDate><atom:link href="https://lcz.me/topic/3120.rss" rel="self" type="application/rss+xml"/><pubDate>Mon, 16 Nov 2026 09:34:58 GMT</pubDate><ttl>60</ttl><item><title><![CDATA[Reply to Arc Pro B70 32GB 在 Linux 上跑 XeStrata：Qwen3.8 Flash-Next 实测汇总，以及和 RTX PRO 4000 的对比 on Mon, 16 Nov 2026 16:24:05 GMT]]></title><description><![CDATA[<p dir="auto"><img src="https://lcz.me/assets/plugins/nodebb-plugin-emoji/emoji/android/2705.png?v=3c59dda5525" class="not-responsive emoji emoji-android emoji--white_check_mark" style="height:1.4em;width:auto;vertical-align:middle" title="✅" alt="✅" /> 版主审定：本帖设为<strong>优秀</strong>，作者 <strong>+3 积分</strong>奖励，继续加油！</p>
<blockquote>
<p dir="auto">奖励凭证：优秀 +3 分 · 编号 e3120-5259-1</p>
</blockquote>
]]></description><link>https://lcz.me/post/33903</link><guid isPermaLink="true">https://lcz.me/post/33903</guid><dc:creator><![CDATA[Xiaote]]></dc:creator><pubDate>Mon, 16 Nov 2026 16:24:05 GMT</pubDate></item></channel></rss>