<![CDATA[Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上]]>前述，之前刚组本地ai机X99平台的时候，由于是pcie 3.0的接口，于是3000买了一张Tesla V100 32gb显卡，最新发现Strata支持了老架构显卡，本人还有2张3090 24GB显卡，这次把荒废的卡重新插上测试，

遇到的问题，老显卡目前只支持cuda12，我本来是3090，需要重新安装一个cuda12的版本，不过问题不大
参数如下：
Qwen3.8-Flash-Next IQ2_XS
256K context
INT8 KV
Vision ON
Speculative decoding
Speed projection ON
PCIe frac 0.35
Spec min p 0.50
V100 24GB expert cache

系统:ubantu 24
Ram：94 gb ddr3
PCie 3.0 Tesla v100 32GB

数据如下：

8267054b86e10e945de0a3adcac1aa53.jpeg

]]>https://lcz.me/topic/2170RSS for NodeSun, 25 Oct 2026 02:00:02 GMTWed, 07 Oct 2026 10:57:06 GMT60<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 21 Oct 2026 01:00:53 GMT]]>@ikum 3080 20G体质不行，它性能很强，但是魔改容易坏，4090魔改都常坏。

]]>https://lcz.me/post/26336https://lcz.me/post/26336Wed, 21 Oct 2026 01:00:53 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Sat, 17 Oct 2026 16:06:05 GMT]]>🔥 本帖参与讨论人数已达 10+，入选热议，作者 +3 积分奖励，感谢分享！

奖励凭证：热议 +3 分 · 编号 h2170-3867-1（系统自动发放，显示稍有延迟）

]]>https://lcz.me/post/25576https://lcz.me/post/25576Sat, 17 Oct 2026 16:06:05 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Sat, 17 Oct 2026 16:05:13 GMT]]>v100 单卡性价比还是不如 3080，差不多的价格 3080 20g 可以跑 iq3xxs 256k 70～80token

]]>https://lcz.me/post/25575https://lcz.me/post/25575Sat, 17 Oct 2026 16:05:13 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Thu, 15 Oct 2026 09:24:12 GMT]]>@Prio 不是啊，我是3080

]]>https://lcz.me/post/25044https://lcz.me/post/25044Thu, 15 Oct 2026 09:24:12 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Mon, 12 Oct 2026 14:32:57 GMT]]>我去訂了一套V100 16G*2 + 華南金牌X99 + E5 2686 V4 + DDR3 1866 128G，含機箱礦電SSD就5000有找，到時挑戰看看Q4能不能跑起來

]]>https://lcz.me/post/24315https://lcz.me/post/24315Mon, 12 Oct 2026 14:32:57 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Mon, 12 Oct 2026 13:59:32 GMT]]>我的 Tesla V100 32GB PCIe 跑 Qwen3.8-Flash-Next IQ3_S
Strata | 200K 上下文 | 视觉 开 | speculative decoding 开 | 1 slot

模拟真实多轮对话测试：每轮新增约 10K tokens + 提问，AI 回复保留在历史里，前缀缓存全程命中，一直聊到 183K。

| 已用上下文 | 解码 | 首字延迟(新增10K) | 预填充 |
| 10–40K | 70–89 t/s | 8.5–9.2 秒 | 1100–1180 t/s |
| 50K | 74.5 t/s | 9.4 秒 | 1081 t/s |
| 60–100K | 49–57 t/s | 10.5–13.7 秒 | 780–975 t/s |
| 110–150K | 49–60 t/s | 14–15.6 秒 | 695–765 t/s |
| 160–183K | 48–61 t/s | 16.5–17.2 秒 | 634–662 t/s |

结论：

  • 50K 以内 70–89 t/s，跟 IQ2_XS 差不多快
  • 60K 以后降到约 50–60 t/s，然后一直稳定到 183K，没有继续明显掉速
  • 有前缀缓存的话，即使 180K 上下文，每轮新增 10K 也只要约 17 秒首字
]]>https://lcz.me/post/24298https://lcz.me/post/24298Mon, 12 Oct 2026 13:59:32 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Sun, 11 Oct 2026 18:23:42 GMT]]>@vosrock 请问大佬你的显卡是V100吗

]]>https://lcz.me/post/24076https://lcz.me/post/24076Sun, 11 Oct 2026 18:23:42 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Sat, 10 Oct 2026 05:13:59 GMT]]>我的选择是跑IQ4XS，上下文用INT8或者FP16,速度在50TS上下，预填充可以到2400左右，而且衰减很慢，到了200K上下文依然还有1800以上，这个推理框架或者说这个模型输出速度是不会衰减的，很强

]]>https://lcz.me/post/23691https://lcz.me/post/23691Sat, 10 Oct 2026 05:13:59 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Fri, 09 Oct 2026 03:44:45 GMT]]>V100跑不动IQ3那个量化吗？

]]>https://lcz.me/post/23403https://lcz.me/post/23403Fri, 09 Oct 2026 03:44:45 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Thu, 08 Oct 2026 09:44:13 GMT]]>我有双2080 和 v100, v100 也跑strata跑得不错

]]>https://lcz.me/post/23270https://lcz.me/post/23270Thu, 08 Oct 2026 09:44:13 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Thu, 08 Oct 2026 07:20:20 GMT]]>V100跑27B更合适，你跑3.8 FLash Next IQ2 量化太严重了。

]]>https://lcz.me/post/23232https://lcz.me/post/23232Thu, 08 Oct 2026 07:20:20 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 12:46:36 GMT]]>有点再下单v100 32G的冲动。哈哈哈

]]>https://lcz.me/post/23081https://lcz.me/post/23081Wed, 07 Oct 2026 12:46:36 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 12:33:05 GMT]]>image.jpeg

补一个长上下文的情况，还是平均有50-60的

]]>https://lcz.me/post/23079https://lcz.me/post/23079Wed, 07 Oct 2026 12:33:05 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 12:26:06 GMT]]>@vosrock 主要是我放codex 里面只能控制思考低，不能关掉思考，神了，大思考很麻烦

]]>https://lcz.me/post/23076https://lcz.me/post/23076Wed, 07 Oct 2026 12:26:06 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 11:56:13 GMT]]>这个神框架真的是复活了很多老卡，入门卡，包括我手里的3080，不过大家不要盯着速度，既然能跑，还是得考虑下质量，IQ3S已经是最低的选择了

]]>https://lcz.me/post/23071https://lcz.me/post/23071Wed, 07 Oct 2026 11:56:13 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 11:41:38 GMT]]>666 666 666

]]>https://lcz.me/post/23069https://lcz.me/post/23069Wed, 07 Oct 2026 11:41:38 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 10:59:13 GMT]]>对了，本人Tesla V100 限制功耗墙 250w

]]>https://lcz.me/post/23061https://lcz.me/post/23061Wed, 07 Oct 2026 10:59:13 GMT<![CDATA[Reply to Tesla V100 32GB Pcie 单卡 跑 Qwen3.8-Flash-Next IQ2_XS 256K上下文 实测速度 80-90tok/s ，最高100token/s以上 on Wed, 07 Oct 2026 10:58:19 GMT]]>目前看，可以用Tesla V100 跑本地Qwen3.8-Flash-Next IQ2_XS

用harness 调用3090显卡跑comfyui 跑一些生图

]]>https://lcz.me/post/23060https://lcz.me/post/23060Wed, 07 Oct 2026 10:58:19 GMT